Искусственный интеллект и будущее человечества

Среди программистов, работающих над искусственным интеллектом, заметно явное нежелание делать прогнозы о том, как скоро можно ожидать появления подобия сверхчеловеческого интеллекта, даже среди тех, отнюдь не большинства, кто считает такую перспективу возможной. Отчасти это связано с элементарным нежеланием ученых делать недостаточно обоснованные утверждения, которые могут не оправдаться и поставить их в неловкое положение. Но такое нежелание также связано со специфической историей этой области, которая знает множество примеров, когда исследователи беззаботно недооценивали трудности, с которыми им придется столкнуться. Летом 1956 года, еще до того, как из идеи об искусственном интеллекте начала складываться отдельная дисциплина, небольшая группа ученых – ведущих деятелей в области математики, когнитивной науки, электротехники и информатики – собралась на шестинедельный семинар в Дартмутском колледже. В нее входили Марвин Ли Минский, Клод Шеннон и Джон Маккарти – люди, считающиеся основателями идеи об искусственном интеллекте. В предложении Фонду Рокфеллера, который финансировал этот семинар, группа предоставила следующее обоснование своего сбора:

«Мы предлагаем провести двухмесячное исследование искусственного интеллекта десятью людьми… Основанием для исследования служит гипотеза о том, что каждый аспект образовательного процесса или любая другая особенность интеллекта теоретически могут быть описаны настолько точно, что приведут к возможности разработки машины для моделирования интеллекта. В рамках исследования будет предпринята попытка создать устройства, использующие язык, создающие абстракции и концепции, решающие исключительно человеческие задачи и способные к самосовершенствованию. Мы считаем, что тщательно подобранная группа ученых сможет достигнуть значительного прогресса в одной или нескольких из этих задач, работая вместе на протяжении всего лета».

Подобного рода высокомерие, периодически возникающее в исследованиях по этой теме, даже привело к серии «зим искусственного интеллекта» – периодов резкого сокращения финансирования, последовавших после вспышек воодушевления по поводу предстоящего решения той или иной проблемы, в итоге оказавшейся гораздо сложнее, чем предполагалось.

Повторяющиеся десятилетиями тенденции чрезмерных и пустых обещаний привели к особой культуре внутри сообщества, когда исследователи не заглядывали слишком далеко вперед. И это, в свою очередь, привело к серьезным трудностям в работе над вопросом экзистенциального риска. Большинство разработчиков в сфере искусственного интеллекта не хотели, чтобы их обвиняли в чрезмерных ожиданиях от технологий, над которыми они работали.

И что бы вы об этом ни думали, это конкретное утверждение об уничтожении человечества искусственным интеллектом действительно подвергалось обвинениям в несдержанности.

Нейт Соарес поднес руку к своей бритой голове и постучал пальцем по лбу.

– Сейчас, – сказал он, – единственный способ, которым вы можете управлять человеком, находится в этой коробке.

Я обсуждал с Нейтом преимущества, которые могут возникнуть с появлением искусственного сверхинтеллекта. Нейт видел главное достоинство в возможности воссоздать человеческое существо, в частности себя, на другом носителе, отличном от той нейронной плоти, на которую он указал.

Нейт был мускулистым широкоплечим мужчиной средних лет. Казалось, он старательно сдерживал свои порывы. На нем была зеленая футболка с надписью Nate the great, и, когда он откинулся в рабочем кресле и положил ногу на ногу, я заметил, что он был без ботинок и в разных носках: один – просто голубой, другой – белый с узором из шестеренок и колес.