Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Сравним это с электронным субстратом, где проводниковые и полупроводниковые соединения образуют базовые электронные компоненты. Мы организуем эти компоненты, принимая базовые инструкции – которые называем машинным языком, и в итоге абстрагируемся до более высоких уровней, которые ближе человеку в чтении, написании и интерпретации. На этом уровне часто отпадает необходимость в базовых процессах «бытового обслуживания». Инструкции объединяются в подпрограммы, которые руководят низкоуровневыми инструкциями при выполнении поставленных задач, обработке вызовов и создании отчетов. Из подпрограмм складываются модули. Из модулей складываются программы. Из программ складываются приложения.

Можно убедиться в том, что на каждом этапе в обоих примерах используемые методы продиктованы низкоуровневыми структурами и процессами. Несмотря на то что при создании разумных машин мы наследуем принципы биологических систем, стоит предположить, что любая попытка скопировать принципиально иную систему окажется в лучшем случае напрасной тратой сил, вычислительных мощностей и ресурсов. В худшем – результат будет полным провалом.

С учетом всего этого будет полезно признать, что любой искусственно созданный разум, независимо от того, какие методы использовались для его создания, наверняка будет нам абсолютно чужеродным. Причем не как в заезженных голливудских сюжетах, а действительно чуждым, непостижимым и не поддающимся интерпретации. Вот чего нам стоит бояться на самом деле. Не того, насколько искусственный интеллект умнее человека или, если уж на то пошло, насколько он превосходит интеллект всего человечества. (Хотя, конечно, этот вопрос мы тоже должны задать.) Не того, что искусственно созданный разум разделяет или не разделяет убеждения, на которых основано наше мировоззрение, – потому что во многом он этого просто не может. По-настоящему нас должно тревожить то, что мы не сможем мыслить действительно в одном направлении с этим чуждым нам разумом, как и с другим человеком. Мы никогда не сможем полностью понять или, возможно, даже уяснить его мотивы, если они у него действительно будут. Как гласит старая поговорка, нам не удастся побывать в его шкуре.

Но верно и обратное. Во многом не имеет значения, насколько разумна машина, если она будет неспособна понять нас, а мы ее. Это одна из причин, почему нам стоит быть осторожными. Не потому, что машины могут обрести сознание, но потому, что мы будем создавать их для того, чтобы они контролировали системы. Важные для нас системы, необходимые для нашего мира и поддержания нашей жизни. По мере того как мы будем создавать все более умные и эффективные машины, мы неизбежно будем доверять им все больше задач и возлагать на них все большую ответственность – а иначе зачем их вообще создавать? Независимо от наличия у них сознания и свободы воли, все большая сложность будет означать, что процессы и логика их разума окажутся для нас недоступными. В результате что-то может пойти не так и в конце концов пойдет.

Также стоит обратить внимание на количество потенциальных разновидностей разума, которые могут появиться¹². Уже существуют разного рода машины, и у каждой свои возможности. Некоторые, как системы глубинного обучения, проявляют вполне узнаваемую, хотя и далекую от человеческой, степень разума. В то же время остальные абсолютно неразумны, хотя и демонстрируют подобие разума, то есть получая определенные данные на входе, дают самостоятельные и неслучайные данные на выходе.

Однако по мере прогресса будет ли это единственным отличием разума машин друг от друга? Мы уже давно поняли, что человеческий разум многогранен и разнообразен. Считается, что вариации общего интеллекта, или д, у людей, проходивших тестирование на определение уровня IQ, составляют от 40 до 60 %, но это лишь один аспект интеллекта в масштабах человечества. Признаки, которые могут или не могут быть уникальными аспектами интеллекта, включают в себя креативность, артистические способности, изобретательность, память, планирование, зрительно-пространственное ориентирование, кинестетическое восприятие, а также, несомненно, множество других. Кроме того, существует огромное множество аспектов отдельных личностей, из которых складывается наша уникальность: уверенность в себе, экстраверсия или интроверсия, эмпатия, паранойя, враждебность, стрессоустойчивость и т. д. Все эти компоненты составляют нашу особую ментальную картину. Наряду со всем этим в последние годы все больше получает признание EQ (эмоциональный интеллект), благодаря той роли, которую он играет в становлении успеха многих людей по всему миру¹³. Подробнее об этом позже.