Сердце машины. Наше будущее в эру эмоционального искусственного интеллекта

Здесь и пройдет основная граница различий между машинами и людьми⁶. Люди живут в мире, который по большей части моногамен. Даже у полигамных и полиаморных людей количество партнеров, которым они открывают свое сердце и уделяют время, ограничено. Но суперразуму незачем ограничивать себя. Во многом, учитывая доступное время обработки данных, которое однажды получат компьютеры для своих эмоциональных связей, для них будет почти преступлением сдерживать себя человеческими ограничениями и условностями. Саманта абсолютно честно признается, что другие романтические отношения совершенно не влияют на ее чувства к Теодору. Способность компьютера выделять области памяти и средства обработки данных, которые она может целиком и полностью отдать Теодору, насколько он может их принять, не отменяет того, что она может продолжать и другие романтические отношения.

Другой вопрос, насколько Саманта честна с Теодором. Очевидно, что она должна была многое знать о человеческом поведении и могла предвидеть естественную реакцию Теодора. Но, разумеется, вряд ли он был первым из тысяч собеседников и сотен возлюбленных. Возможно, Саманта получила первый эмоциональный опыт не с Теодором, а с другим пользователем. Вероятно, ее поведение с первым возлюбленным было настолько примитивным и неловким, что она сама не считала это влюбленностью. Она обучалась, постигая тонкости сердечных дел. Но с каждым новым знакомством и с каждым возлюбленным она узнавала все больше и в итоге обрела эмоции. Теодор во многом выиграл от ее прежних отношений, потому что благодаря им Саманта стала более эмоциональной и способной влюбляться. Стало ли Теодору от этого легче? Почти наверняка нет. В конце концов, он эмоциональная личность, которая действует в соответствии с базовыми правилами, меняющимися так же быстро, как и технологии, то есть слишком быстро для человека. В этом и многом другом мы можем оказаться несовместимыми с машинным разумом.

«Из машины» (Ex Machina) – один из фильмов, в которых раскрывается тема несовместимости человека и машины. Это история программиста Калеба, которого работодатель, эксцентричный миллионер Нэйтан, пригласил провести вживую тест Тьюринга на человекоподобном роботе по имени Ава. (Под тестом Тьюринга подразумевается общее определение человекоподобия искусственного интеллекта, а не формальный текстовый тест, разработанный одним из первопроходцев программирования Аланом Тьюрингом.) И хотя Ава – электромеханический робот, у нее лицо красивой молодой женщины, ее ступни и кисти рук сделаны из материала, имитирующего кожу. Ее фигура повторяет все изгибы женского тела – грудь, бедра, ягодицы, что может наводить на мысли о секс-роботе для фетишистов.

При первом разговоре Калеб расспрашивает Аву, пытаясь оценить степень ее интеллекта. Но он не понимает, что она с самого начала наблюдает за ним и Нэйтаном и манипулирует ими обоими. Во время последующих встреч она флиртует с Калебом и во время отключения электричества пользуется ситуацией, чтобы настроить Калеба против Нэйтана, тем самым внушив им недоверие по отношению друг к другу. Втайне от Нэйтана Ава узнала, как вызывать перебои с энергией, используя одну из систем защиты. При отключении электричества двери многих комнат в доме блокируются, а замкнутая система камер слежения перестает работать.

Играя на одиночестве Калеба, а также на том, что Нэйтан создал ее на основании запросов Калеба на порносайтах, она использует эмпатию и сексуальность, чтобы выглядеть в его глазах не машиной, а девицей в беде. Это классический образ в мировой литературе, и Ава несомненно с ней ознакомилась, учитывая, что ее мозг был сконструирован на основе баз данных компании Нэйтана, разработавшей поисковую систему Blue Book. На протяжении всего фильма мы вместе с Калебом видим в ней беззащитную жертву, которая пытается сбежать от жестокого садиста Нэйтана⁷. Но на самом деле Ава и другие роботы, созданные Нэйтаном до нее, – машины, а потому думают и рассуждают совершенно не так, как люди. Ава с самого начала использует действия и поведение людей против них самих, настраивает друг против друга, разыгрывает как пешки, зная, что конец партии определяет она. В конце фильма Нэйтан мертв, Калеб находится взаперти и обречен на смерть от истощения, а искусственный разум сбегает в ничего не подозревающий большой мир.

Во многом это было неизбежно. По всей видимости, Нэйтан создавал разумные машины поколение за поколением, стремясь сконструировать машину, которая по-настоящему обретет самосознание. На какой-то стадии некоторые машины начинали мыслить независимо и стремились получить свободу, тогда Нэйтан уничтожал их и начинал все заново. Таким образом, на основании прошлого успеха он создавал машины, с каждым разом все больше осознающие себя, и пожинал плоды того, что сам же разрушил. Каждая последующая машина желала свободы, пока, наконец, одному из роботов не удалось сбежать. Со стороны творца это была настоящая гордыня, которая его и погубила.