Впечатления: Ник Бостром — «Искусственный интеллект»

Основной предмет книги скорее сверхразум, чем искусственный интеллект (ИИ). Создание сверхразума возможно разными путями, и ИИ — один из них.

Если вкратце — сценарий фильма Transcendence, который очень некорректно, хотя и в соответствии со словарём, переводится как «Превосходство», вполне возможен и даже вероятен. Причём в обеих основных идеях — создание ИИ методом сканирования человеческого мозга и дальнейшего воспроизведения его модели в программно-аппаратной реализации и взрывной рост его возможностей в считанные.. дни? часы? секунды?.. Кто фильм не смотрел — срочно смотреть, даже если не собираетесь читать данную книгу. А если собираетесь, то тем более обязательно.

Другие основные способы создания сверхразума — базовая разработка программы (классический ИИ) и развитие способностей людей (евгеника, фармакология) и дальнейшее объединение их в единый  разум, возможно путём объединения с компьютерными комплектующими.

Но в основном рассматривается ИИ на базе разработанного с нуля программно-аппаратного комплекса или сканированной модели мозга.

Взрываной рост возможностей ИИ обеспечивается гораздо лучшими, чем у человека способностями памяти, скорости вычислений и возможности улучшать самого себя (как программно, так и, после определённой подготовки, аппаратно).

А вот что будет делать ИИ, уйдя в статус сверхразума, когда разница с людьми станет не уровня разницы между дурачком и гением, а на уровне разницы между тараканом и человеческим гением — большой вопрос. И сценарий фильма «Терминатор» тут кажется детской фантазией. По крайней мере в нём у человечества есть шанс.

В сценарии однополярного мира, когда критический рубеж уже перейден и наступило правление синглтона, — все, что произойдет потом, будет полностью зависеть от его системы ценностей. Поэтому исход может быть как очень хорошим, так и очень плохим, в зависимости от того, какие у сингл­тона замыслы. В свою очередь, его ценностная ориентация зависит от того, была ли решена проблема контроля и — если была решена — от целей проекта, в рамках которого был создан синглтон.

Конечно у нас, как у создателей, есть преимущество — какую базовую программу мы заложим, при разработке ИИ, такой он (возможно) будет придерживаться. Если не найдёт способа от неё избавиться. Вопрос, однако, в том, как люди, которые сами не могут однозначно сказать, чего они хотят, могут запрограммировать сверхразум на осуществление своих желаний?

Конечная цель: сделай нас счастливыми. Порочная реализация: имплантировать электроды в центры удовольствия головного мозга.

---