Впечатления: Ник Бостром — «Искусственный интеллект»

comment 1
Книги

Основной предмет книги скорее сверхразум, чем искусственный интеллект (ИИ). Создание сверхразума возможно разными путями, и ИИ — один из них.

Если вкратце — сценарий фильма Transcendence, который очень некорректно, хотя и в соответствии со словарём, переводится как «Превосходство», вполне возможен и даже вероятен. Причём в обеих основных идеях — создание ИИ методом сканирования человеческого мозга и дальнейшего воспроизведения его модели в программно-аппаратной реализации и взрывной рост его возможностей в считанные.. дни? часы? секунды?.. Кто фильм не смотрел — срочно смотреть, даже если не собираетесь читать данную книгу. А если собираетесь, то тем более обязательно.

Другие основные способы создания сверхразума — базовая разработка программы (классический ИИ) и развитие способностей людей (евгеника, фармакология) и дальнейшее объединение их в единый  разум, возможно путём объединения с компьютерными комплектующими.

Но в основном рассматривается ИИ на базе разработанного с нуля программно-аппаратного комплекса или сканированной модели мозга.

Взрываной рост возможностей ИИ обеспечивается гораздо лучшими, чем у человека способностями памяти, скорости вычислений и возможности улучшать самого себя (как программно, так и, после определённой подготовки, аппаратно).

А вот что будет делать ИИ, уйдя в статус сверхразума, когда разница с людьми станет не уровня разницы между дурачком и гением, а на уровне разницы между тараканом и человеческим гением — большой вопрос. И сценарий фильма «Терминатор» тут кажется детской фантазией. По крайней мере в нём у человечества есть шанс.

В сценарии однополярного мира, когда критический рубеж уже перейден и наступило правление синглтона, — все, что произойдет потом, будет полностью зависеть от его системы ценностей. Поэтому исход может быть как очень хорошим, так и очень плохим, в зависимости от того, какие у сингл­тона замыслы. В свою очередь, его ценностная ориентация зависит от того, была ли решена проблема контроля и — если была решена — от целей проекта, в рамках которого был создан синглтон.

Конечно у нас, как у создателей, есть преимущество — какую базовую программу мы заложим, при разработке ИИ, такой он (возможно) будет придерживаться. Если не найдёт способа от неё избавиться. Вопрос, однако, в том, как люди, которые сами не могут однозначно сказать, чего они хотят, могут запрограммировать сверхразум на осуществление своих желаний?

Конечная цель: сделай нас счастливыми. Порочная реализация: имплантировать электроды в центры удовольствия головного мозга.


Конечная цель: действовать так, чтобы избежать впоследствии уколов совести. Порочная реализация: отключить соответствующий когнитивный модуль, то есть те зоны коры головного мозга, которые отвечают за чувство вины.

Даже если взять знаменитые Азимовские три закона робототехники, уже первый (робот не может своим действием или бездействием причинить человеку вред) позволяет впасть в полеимику и варианты трактовки и толкования:

Как роботу сопоставить высокий риск причинения вреда нескольким людям и небольшой риск причинения вреда множеству людей? Другой мучительный вопрос: как нам определить само понятие «вред»? На каких весах взвесить разницу между вредом, причиненным физической болью, вредом, нанесенным нашему вкусу архитектурным уродом, и вредом, приносимым социальной несправедливостью? Будет ли нанесен вред садисту, которому не дадут мучить его жертву?

Основная часть книги — размышления на тему, как заложить основу для того, что находится далеко за пределами нашего понимания, как может вести себя сверхразум, будет ли он один или возможна конкуренция сверхразумов и т.д.

Сложность книги от начала к концу возрастает существенно. Последнюю треть мне пришлось буквально продираться через фразы типа

Еще одной областью, где может играть ключевую роль выбор эпистемологических аксиом, является изучение эффекта наблюдателя и его влияния на выводы, которые можно сделать на основе дейктической информации

Познавательность: затрудняюсь оценить. Философия трудно поддаётся оценке. Но книга явно не проходная, или чисто коммерческая.

Увлекательность: 3. Увлечёнными темами разработки ИИ, нейронных сетей вообще будущего человечества, а также тем, кому последняя цитата не кажется насилием над сознанием, будет интересно.

Все книги 2016

1 комментарий

  1. Pingback: Книги 2016 — итоги — Self Engineering

Добавить комментарий

Заполните поля или щелкните по значку, чтобы оставить свой комментарий:

Логотип WordPress.com

Для комментария используется ваша учётная запись WordPress.com. Выход / Изменить )

Фотография Twitter

Для комментария используется ваша учётная запись Twitter. Выход / Изменить )

Фотография Facebook

Для комментария используется ваша учётная запись Facebook. Выход / Изменить )

Google+ photo

Для комментария используется ваша учётная запись Google+. Выход / Изменить )

Connecting to %s