Совместимость. Как контролировать искусственный интеллект

— Опровержение: интеллектуальность не равна физической силе, и сила лошадей не дает им возможности захватить мир.

• В истории имеется ноль случаев убийства машинами миллионов человек; методом индукции приходим к выводу, что это невозможно и в будущем.

— Опровержение: в мире все бывает в первый раз, и первому разу предшествует ноль случаев этого события.

• Никакая физическая величина во Вселенной не может быть бесконечной, в том числе интеллектуальность, следовательно, страхи из-за сверхинтеллектуальности раздуты.

— Опровержение: сверхинтеллектуальность не должна быть бесконечной, чтобы создать проблемы, а физические законы позволяют существование компьютерных устройств в миллиарды раз мощнее человеческого мозга.

• Мы не боимся фатальных для биологической жизни, но крайне маловероятных опасностей вроде материализации черной дыры на околоземной орбите, так почему мы должны бояться сверхинтеллектуального ИИ?

— Опровержение: если бы множество физиков работали над созданием такой черной дыры, неужели мы бы не спросили их, безопасно ли это?

Все не так просто!

Главная тема современной психологии — один только показатель IQ не характеризует всей полноты интеллектуальности человека[202]. У интеллектуальности есть разные измерения, говорят теоретики: пространственное, логическое, лингвистическое, социальное и т. д. Алиса, наша футболистка из главы 2, может иметь лучший пространственный интеллект, чем ее друг Боб, но худший социальный. Таким образом, невозможно выстроить всех людей в строгом порядке по интеллектуальности.

Это еще более справедливо в отношении машин, поскольку их способности намного уже. Поисковая машина Google и программа AlphaGo не имеют почти ничего общего, кроме того, что созданы двумя подразделениями одной корпорации, так что бессмысленно говорить, что одна из них интеллектуальнее другой. Это делает понятие «машинного IQ» сомнительным и заставляет предположить, что было бы заблуждением описывать будущее как простой забег за IQ с участием людей и машин.

Кевин Келли, основатель и редактор журнала Wired и невероятно чуткий техноаналитик, продолжает этот аргумент следующим шагом. В «Мифе о сверхчеловеческом ИИ»[203] он пишет: «Интеллектуальность не одномерна, так что понятие „умнее людей“ бессмысленно». Все тревоги из-за сверхинтеллектуальности отброшены одним ударом.

Очевидно, однако, что машина могла бы превзойти человеческие возможности по всем релевантным параметрам интеллектуальности. В этом случае, даже по строгим стандартам Келли, машина была бы умнее человека. Впрочем, это весьма убедительное предположение необязательно опровергает аргумент Келли. Возьмем, к примеру, шимпанзе. Краткосрочная память у них лучше, чем у людей, что проявляется даже в таких сугубо человеческих задачах, как запоминание последовательности цифр[204]. Краткосрочная память — важный параметр интеллектуальности. Таким образом, согласно аргументации Келли, люди не умнее шимпанзе; его слова аналогичны заявлению, что фраза «умнее, чем шимпанзе» бессмысленна. Слабое утешение для шимпанзе (а также бонобо, горилл, орангутанов, китов, дельфинов и т. д.) — биологических видов, существующих только потому, что мы соизволили им это разрешить! И еще более слабое утешение для видов, которые мы уже уничтожили. Малоутешительно это и для людей, которые опасаются быть уничтоженными машинами.

Это невозможно

Еще до рождения ИИ в 1956 г. почтенные интеллектуалы хмыкали и заявляли, что разумные машины невозможны. Алан Тьюринг посвятил немалую часть своей эпохальной статьи 1950 г. «Вычислительные машины и разум» опровержению их аргументов. С тех пор сообщество разработчиков ИИ отбивают нападки философов[205], математиков[206] и прочих, убежденных в невозможности ИИ. В сегодняшних спорах вокруг сверхинтеллектуальности ряд философов вновь извлекли на свет эти заявления, чтобы доказать: человечеству нечего бояться[207][208], что неудивительно.