Идиот или гений? Как работает и на что способен искусственный интеллект

“Давать прогнозы сложно, особенно о будущем”. Точно неизвестно, кто автор этого остроумного замечания, но в ИИ оно не менее справедливо, чем в любой другой сфере. Специалистов по ИИ неоднократно спрашивали, когда появится общий ИИ или “сверхразумный” ИИ, и опросы показывают широкий спектр мнений – от “в ближайшие десять лет” до “никогда”[376]. Иными словами, мы этого не знаем.

Однако мы знаем, что общий ИИ человеческого уровня требует способностей, которые исследователи тщетно пытаются понять и воссоздать на протяжении десятков лет – и среди них есть умение рассуждать на основе здравого смысла и строить абстракции и аналогии. Остаются и другие важные вопросы: нужно ли для общего ИИ сознание? самоосознание? эмоции и чувства? инстинкт самосохранения и страх смерти? тело? Ранее я уже цитировала слова Марвина Минского: “Наши представления о разуме еще не сформировались окончательно”.

Вопрос о том, когда появится сверхразум – “интеллект, существенно превосходящий лучший человеческий разум почти во всех сферах, включая научное творчество, общую мудрость и социальные навыки”[377], – меня раздражает, чтобы не сказать больше.

Высказывались мнения, что после создания общего ИИ человеческого уровня компьютеры быстро станут сверхразумными в результате процесса, сходного с “интеллектуальным взрывом” И. Дж. Гуда (описанным в главе 3). Считается, что компьютер, обладающий общим интеллектом, сможет в мгновение ока прочитать все документы человечества и узнать все, что можно узнать. Кроме того, применяя свои растущие способности к дедуктивным рассуждениям, он сможет получать всевозможные новые знания, которые будет использовать для расширения своих познавательных способностей. Такую машину не будут сдерживать досадные несовершенства людей: низкая скорость мышления и обучения, нерациональность и когнитивные искажения, подверженность скуке, эмоциональность и потребность во сне. Получается, что такая машина будет обладать практически “чистым” интеллектом, не ограничиваемым слабостями людей.

Мне кажется более вероятным, что все эти “слабости” на самом деле являются неотъемлемой частью общего человеческого интеллекта. Когнитивные ограничения, связанные с тем, что мы обладаем телами, функционирующими в физическом мире, наряду с эмоциями и “нерациональными” искажениями, позволяющими нам формировать социальные группы, и другие характеристики, порой называемые когнитивными “изъянами”, на самом деле наделяют нас общим интеллектом, а не специфической гениальностью саванта. Я не могу этого доказать, но мне кажется весьма вероятным, что общий интеллект неотделим от этих мнимых изъянов – и у людей, и у машин.

В разделе “Десять вопросов и возможных ответов” в “ГЭБ” Дуглас Хофштадтер подошел к этой проблеме с обманчиво простым вопросом: “Сможет ли думающий компьютер быстро вычислять?” Когда я впервые прочитала его ответ, он меня удивил, но теперь он кажется мне верным. “Может быть, нет. Мы сами состоим из аппаратуры, которая проделывает сложные вычисления, но это не означает, что на уровне символов, там, где находимся «мы», нам известно, как делать те же самые вычисления. К счастью для нас, уровень символов (то есть мы сами) не имеет доступа к нейронам, ответственным за мышление, – иначе мы бы спятили… Скорее всего, в случае разумной программы ситуация будет аналогична”. Далее Хофштадтер объяснил, что разумная программа, как и мы, будет представлять числа как “некие понятия так же, как это делают люди, – понятия, нагруженные ассоциациями… С подобным «дополнительным багажом» думающая программа станет складывать довольно вяло”[378].

Вопрос: насколько нам следует опасаться ИИ?

Если вы формируете мнение об ИИ на основе кино и научной фантастики (и даже некоторой популярной научной литературы), то наверняка боитесь, что ИИ может обрести сознание, перейти на сторону зла и попробовать поработить или истребить человечество. Но учитывая, как мы далеки от создания общего интеллекта, большинство представителей ИИ-сообщества тревожится о другом. Как я показала в этой книге, существует множество причин беспокоиться о стремлении общества как можно скорее внедрить технологии ИИ: возможность значительного сокращения рабочих мест, опасность некорректного использования систем ИИ, ненадежность и уязвимость этих систем – вот лишь некоторые обоснованные страхи людей, озабоченных влиянием технологий на человеческую жизнь.