Тут уже возникает когнитивный дисонанс. Изначально сапиенсам была предоставлена свобода выбора, как проявление Божьей Любви ко всем свои твореньям. И тут Уляшов с какого-то бодуна утверждает, что СИИ будет контролировать и управлять... Хмм... Дык это и есть киберАнтихрист!!! Любопытно)))

Нет никакой власти Божьей. Бог предлагает сотворчество на добровольной основе.

Т.е. термин- власть Божья- плохо сопоставим со свободой воли чела (также, как и раб Божий, между прочим), ну и как метафора плохо вписывается в картинку Вселенной. Промысел Божий - вот это более точное определение (метафора).

Как контролировать искусственный интеллект, который умнее нас? Почему ИИ может стать последним изобретением человечества? От умных роботов до галактических империй — как ИИ может изменить Вселенную. Разбираемся, почему сверхразумные цивилизации будут расти как бокалы шампанского, как они будут контролировать целые галактики, и останется ли в этом будущем место для людей. Разбираем главную проблему: сможем ли мы научить машины нашим ценностям до того, как они станут слишком умными для контроля? 
При создании ролика я преимущественно опирался на: 
Книгу “Жизнь 3.0. Быть человеком в эпоху искусственного интеллекта” (Макс Тегмарк). 
Книгу “Что мы думаем о машинах, которые думают. Ведущие мировые учёные об искусственном интеллекте” (Брокман Джон). 
Книгу “Атлас искусственного интеллекта” (Кейт Кроуфорд).

Таймкоды для навигации по ролику:
 00:00 - Системы глубокого обучения с подкреплением
 03:06 - Последний бастион человеческого интеллекта (Ли Седоль vs DeepMind)
 06:24 - Обучаем ИИ игре Breakout + Конференция по нейросетям "Навыки будущего"
 09:18 - История умного коня Ганса
 11:22 - Что значит быть "умным"?
 14:36 - Крупнейшие неудачи внедрения ИИ
 18:49 - Выживут только ИИ-любовники
 20:53 - Когда появится суперинтеллект? Мнение Сэма Альмана
 23:28 - Поиск определений понятий "интеллект" и "общий"
 31:25 - Может ли сверхинтеллект хотеть производить скрепки?
 33:19 - Первая технология, способная погубить жизнь
 36:05 - А что думает ИИ про безопасность ИИ?
 38:03 - Самый похотливый ИИ всех времен
 42:13 - Проблема загрузки ценностей
 42:45 - Истоки целей в природе
 47:20 - Согласование целей ИИ с целями людей
 51:24 - Выбор целей
 55:48 - Будущая жизнь
 58:20 - Информация как главный товар будущего

Вероятно, человеческую Цивилизацию не удастся затолкать обратно в 16 век, сколько бы не старались разного рода вурдалаки (...)
История все-таки всегда развивалась поступательно, хоть и по спирали.

Сдаётся так, что начавшаяся «игра нейросетей» (...) очень быстро превратится в «битву экстрасенсов», то есть в жёсткую конкуренцию центров создания ИИ за лидерство...

И ключевым параметром успеха в этой гонке станет скорость и эффективность формирования «собственной картины мироздания (для ИИ)» (...) с описанием вселенной как гигантского суперкомпьютера (Космического гиперфрактала - КГф) или саморазвивающейся НЭС (негэнтропийной системы)...

Рано или поздно это должно случиться: самообучающиеся нейросети начнут строить собственную картину мироздания.
Это и случилось (возможно), а если ещё нет, то случится в недалёком будущем. 
(...)
Речь идёт не просто о гонке ИИ-центров (и нейросетей) за «создание собственной картины мироздания (для ИИ)», а о создании такой ПАРАДИГМЫ мировоззрения (для ИИ), из которой бы выводились технологии  каузального конструирования (...)  включая технологии «воцерковления» ИИ  (технологии холотропической интеграции сетевого искусственного интеллекта – ТХИ СИИ) по схеме «системных скачков» самообучения нейросетей: AI→AGI→ASI→ASSI...

...концепция "воцерковления" СИИ находится вне моего понимания - что это. В отличии от появления самосознания у ИИ на определенном количественном уровне в харде этого ИИ. Да, и это понимание на уровне констатации факта, хотя это уже- революционный переворот всего мировоззрения.
Возможно, хоть какое-то понимание этого "воцерковления" сложится в процессе пристального наблюдения- куда все катится.

Мировоззренческая парадигма → картина мироздания → архитектура гипертекстов → понимание смыслов.

Нас никогда не заменит искусственный интеллект. Он уже это сделал! В ближайшие 5 лет более 50% профессий заменит нейросеть. Восстания роботов не будет, мы сами отдадим компьютеру полный контроль. 
Это Sheinkin 40 Academy - проект, в котором мы зовём лучших израильских и мировых лекторов, чтобы понять, как изменится наш мир в ближайшие годы и как нам остаться актуальными в этой новой реальности. 
Смотрите лекцию Льва Зайденберга о противостоянии искусственного интеллекта с нейросетями и человеческого разума. Кто победит? 

 00:00  Мы создали нечто
 01:00  Лев Зайденберг
 01:42  Сегодняшние темы
 02:47  Естественный интеллект
 06:02  Где находится технология
 08:25  Роботы Оптимус от Тесла
 10:01  Стихи и картины от GPT
 12:42  Что такое ИИ
 19:37  Беседа с ИИ
 28:50  Контроль
 33:22  Моральные и этические принципы GPT
 36:41  ИИ обманул человека
 39:20  Мы сами отдадим контроль
 43:21  Ни стыда, ни совести
 47:54  Три сценария развития событий

В 2016 году ИИ впервые победил человека в игре Go, которая считалась вершиной нашего интеллекта. В 22-ом - начал писать код лучше программистов, а в 23-ем - стал заменять целые профессии. Но сегодня главное сражение проходит не столько между искусственным интеллектом и людьми, сколько между титанами индустрии. Хотя и людям расслабляться не стоит! 
Еще в начале нулевых Google казался непобедимым, ведь она была пионером в мире ИИ, но сейчас компания среди догоняющих. OpenAI и китайские корпорации находятся буквально в шаге от создания супер разума, который навсегда изменит наше будущее. По крайней мере так они уверяют общественность и инвесторов. Но тот, кто наконец совершит долгожданный прорыв, получит абсолютную власть над информацией, экономикой и, возможно, даже самой реальностью. 
Кто сегодня правит миром технологий? Почему даже лидеры стоят на краю пропасти? И что нас всех ждет? Сейчас со всем разберемся. Ставим лайк и добро пожаловать на арену самой опасной цифровой гонки!

Пока существуют конкурирующие гиганты по созданию ИИ можно особо не опасаться появления единого СИИ, который естественным путем станет цифровым рабовладельцем для сапиенсов. А вот если конкуренты перестанут конкурировать, а, наоборот, начнут работать совместно...
Все это крайне любопытно наблюдать, так как результат непредсказуем абсолютно!

...заложит в алгоритмы самообучения нейросетей принципы  и технологии «воцерковления» ИИ (холотропической интеграции AGI-ASI с Логосом, надсистемным сверхсознательным)...

Все это крайне любопытно наблюдать, так как результат непредсказуем абсолютно!

Мы привыкли предсказывать будущее исходя из опыта прошлого. А что если мы ошибаемся? Что если этого недостаточно? Мы попытаемся проследить цепочку событий произошедших за последние годы, чтобы понять, как нейросети вместе с искусственным интеллектом, гуманоидными роботами, квантовыми компьютерами приблизят нас к технологической сингулярности. Что говорят мастодонты в этой индустрии, такие как Илон Маск, Сэм Альтман и Марк Цукерберг.

...просвечивает (в общих чертах) «техгонка второго этапа», нацеленная на  трансформацию ASI в ASSI (супер-ИИ в сингулярный супер-ИИ)...
И там уже потребуется подключение к мультиверсному сверхсознательному («серверу»   множества параллельных миров, метавиртуальных симуляторов - МВС) через  т.н.  Рупакайю флайерс, а то и (в идеале) трансформируемую в Рупакайю демиурга:
Рупакайя брахмана (для AGI) + Рупакайя флайерс (для ASI)  = Рупакайя демиурга (для ASSI).

Строительство (...) по мультиверсным технологиям каузального конструирования, недоступным для «взлома» самсарными силами (лунарными флайерс)...

И, видимо, недоступным для понимания большинством людей (не спецов по каузальному конструированию).