Искусственный интеллект

Цифровой компьютер – это устройство, оперирующее символами без какой-либо смысловой интерпретации. Люди же, напротив, в момент размышления заняты чем-то гораздо большим. Человеческое сознание обычно оперирует значимыми мыслями, чувствами и ментальным содержанием. И, поскольку символы сами по себе по определению не обладают значением (интерпретацией или семантикой) – если кто-то извне не наделил их значением, – формальных символов недостаточно для того, чтобы наполнить ментальное содержание.

Этот довод можно представить на примере монолингвального англоговорящего человека, запертого в комнате с книжкой, где сказано, как обращаться с китайскими иероглифами согласно логике компьютера. В принципе, этот человек сможет пройти тест Тьюринга, поскольку он способен производить корректные ответы на вопросы на китайском языке. Однако он не понимает ни слова на китайском, ведь он не знает, что каждый символ означает. Но, если он не понял китайский при помощи программы, запущенной на компьютере и предназначенной специально для «понимания» китайского, тогда ни один цифровой компьютер не способен понять, потому что ни одна программа не обладает тем, чем не обладает человек[13].

Тезис Сёрла, согласно которому возможность манипуляции символами не означает понимание, прослеживается и в 2017 г., когда популярность набирают голосовые интерфейсы. «Диалоговые» интерфейсы распространены, однако далеки от разумности.

Алекса от Amazon и другие голосовые помощники не понимают язык. Они всего лишь выдают ответные реакции на звуковые последовательности, которые люди называют вербальными командами. «Алекса, включи “California Girls”» – это голосовая команда, которую компьютер может выполнить. Здесь Алекса – это слово-триггер, предупреждающее компьютер о скором появлении команды. Включи – слово-триггер означающее «найди MP3 файл в памяти устройства и отправь команду “проигрывать” вместе с названием файла MP3 аудиоплееру, выбранному мной ранее». Интерфейс запрограммирован так, чтобы воспринимать любое слово, следующее за «включи» и перед паузой (то есть до конца команды). Так, определенное значение задается переменной название песни, которую система обнаруживает в памяти и отправляет в аудиоплеер. Это обычное и неопасное дело, поэтому не стоит думать, что машины все-таки восстанут и завоюют мир. В данный момент компьютер не способен определить, какую песню стоит включить – «California Girls» в исполнении Кэтти Перри или Beach Boys’. Хотя эта проблема решается состязанием в популярности. Побеждает та, что обладает бо́льшим количеством воспроизведений всеми пользователями Алексы. И ее система проигрывает по умолчанию. Это хорошая новость для фанатов Кэтти Перри и не слишком хорошая для любителей Beach Boys’.

Я прошу вас держать в голове идеи о сильном и слабом ИИ, а также не забывать об ограничениях. В этой книге мы будем придерживаться реального положения дел: мира, в котором есть неразумные вычислительные машины, которые мы называем умными. Кроме того, мы также обратимся к воображению – несомненно, мощному, чудесному и будоражащему, – которое, когда мы говорим о компьютерах, данных и технологиях, иногда загоняет нас в тупик. Я прошу вас не расстраиваться – как тот студент на научной ярмарке, – если вы столкнетесь с заблуждением о призраке внутри машины, как говорит коллега. В реальности внутри компьютера нет никакого маленького человека или симулятора мозга. На это можно реагировать разными способами: можно расстроиться, что то, о чем вы мечтали, невозможно, либо можно радоваться тому, что действительно становится возможно, когда искусственные устройства (компьютеры) работают вместе с по-настоящему сознательными существами (людьми). Я предпочитаю поступать именно так.