Идиот или гений? Как работает и на что способен искусственный интеллект

В начале этой книги я писала о том, как тревожит Дугласа Хофштадтера текущий прогресс в ИИ, но стоит отметить, что его в основном пугало другое. Хофштадтер опасался, что программам ИИ окажется слишком просто воссоздать человеческое познание и творчество, а результаты работы поверхностных алгоритмов вроде ЭМИ, использующих простой “набор хитростей”, станут соперничать с великолепными творениями человеческого разума, которыми он восхищался, – например, с произведениями Шопена. “Если маленький чип сможет обесценить эти умы бесконечной остроты, сложности и эмоциональной глубины, это разрушит мое представление о сущности человечества”, – сокрушался Хофштадтер. Его также тревожили предсказания Курцвейла о грядущей сингулярности, и он с ужасом отмечал, что если Курцвейл окажется хоть в некоторой степени прав, то “нас отодвинут в сторону. Мы превратимся в пережитки прошлого. Мы останемся ни с чем”.

Я понимаю беспокойство Хофштадтера, но считаю, что оно преждевременно. В конце концов, эта книга говорит, что мы, люди, склонны переоценивать достижения ИИ и недооценивать сложность собственного разума. Современный ИИ далек от человеческого уровня, и я не верю, что эра “сверхразумных” машин уже не за горами. Если общий ИИ все же будет создан, держу пари, он окажется не менее сложен, чем человеческий мозг.

В краткосрочной перспективе сверхразумность должна занимать одно из последних мест в списке опасений по поводу ИИ. Настоящая проблема – ее противоположность. На страницах этой книги я подчеркнула, насколько хрупкими остаются передовые системы ИИ: они совершают ошибки, когда их входные сигналы слишком сильно отличаются от примеров, на которых они обучались. Часто бывает сложно предсказать, в каких обстоятельствах проявится хрупкость системы ИИ. Если нужно обеспечить надежные результаты при транскрибировании речи, переводах, описании содержания фотографий, вождении в многолюдном городе, без людей пока не обойтись. Думаю, в краткосрочной перспективе особенно тревожно, что мы можем предоставить системам ИИ слишком большую автономию, не до конца изучив их недостатки и уязвимости. Мы склонны антропоморфизировать системы ИИ: приписываем им человеческие качества и из-за этого переоцениваем степень доверия к ним.

Описывая опасности ИИ, экономист Сендхил Муллайнатан упомянул о феномене длинного хвоста (описанном в главе 6) в своем описании “хвостового риска”:

Нам следует опасаться. Но не разумных машин. Нам следует опасаться машин, принимающих решения, для принятия которых они недостаточно разумны. Я гораздо больше опасаюсь машинной глупости, чем машинного интеллекта. Машинная глупость рождает хвостовой риск. Машины могут принять множество хороших решений, а затем однажды совершить катастрофическую ошибку при столкновении с хвостовым событием, которое они не встречали в своих обучающих данных. В этом и состоит различие между узким и общим интеллектом[379].

Или, как выразился исследователь Педро Домингос, “люди боятся, что компьютеры станут слишком умными и захватят мир, но настоящая проблема в том, что они слишком глупы и уже захватили мир”[380].

Меня беспокоит ненадежность ИИ. Меня также беспокоит его применение. Помимо этических вопросов, описанных в главе 7, меня пугает использование систем ИИ для создания фальшивых материалов: текстов, звуков, изображений и видео, с ужасающей реалистичностью показывающих события, которые никогда не происходили.

Так следует ли нам опасаться ИИ? Да и нет. В ближайшее время не стоит ждать появления сверхразумных сознательных машин. “Набор хитростей” не сможет сравниться с теми аспектами человеческого разума, которые мы ценим больше всего. По крайней мере, на мой взгляд. Но существует множество поводов для беспокойства из-за опасного или неэтичного использования алгоритмов и данных. Все это пугает, но я рада видеть, что в последнее время эта тема привлекает большое внимание в сообществе ИИ и за его пределами. В стремлении решить эти вопросы исследователи, корпорации и политики сообща идут к одной цели.

Вопрос: какие интересные задачи ИИ еще не решены?

Почти все.

Когда я начала работать в сфере ИИ, отчасти меня вдохновлял тот факт, что почти все важные вопросы отрасли оставались открытыми и ждали новых идей. Думаю, ничего не изменилось и сейчас.