Искусственный интеллект и будущее человечества

Но были моменты, убедившие меня в том, что я заблуждаюсь и что, например, Нейт Соареc был абсолютно и ужасающе прав: тысячи самых умных людей планеты проводили свою жизнь, используя самые сложные технологии в надежде создать нечто, что уничтожит нас всех. Это представлялось хоть и достаточно маловероятным, но на каком-то интуитивном уровне поэтически, мифологически правильным. В конце концов это то, что мы всегда делали как вид – создавали гениальные устройства и уничтожали их.

Глава 7 О первых роботах

Вечером 25 января 1921 года в Праге люди познакомились с роботами, которым теперь было предначертано уничтожить все человечество как вид. Это событие произошло на премьерном показе научно-фантастической пьесы «Россумские универсальные роботы» (сокращенно «R.U.R.») Карела Чапека в Чешском национальном театре. Тогда же впервые прозвучал термин «робот», производное от чешского «robota», что значит «принудительный труд». Слово быстро вошло в повсеместное употребление, сближая научную фантастику и капитализм. Визуально роботы Чапека имеют не так много общего с более поздними, каноническими блестящими металлическими гуманоидами (от «Метрополиса» Фрица Ланга до «Звездных войн» Джорджа Лукаса и «Терминатора» Джеймса Кэмерона) и больше похожи на убедительных репликантов из фильма «Бегущий по лезвию». Они практически неотличимы от людей; они – существа не из схем и металла, а из плоти или подобной ей субстанции, произведенной в несколько этапов в пробирках из таинственного соединения, так называемого «теста». Сама пьеса – это странная вязкая смесь научной фантастики, политической аллегории и социальной сатиры, чьи полемические намерения лежат на границе критики капиталистической жадности и антикоммунистического страха перед организованной толпой.

Роботы Чапека – это «искусственные люди», созданные с целью повышения производительности труда. Своим появлением они обязаны угнетающе ограниченному взгляду на предназначение человека через призму обогащения. В первой сцене пьесы Домин, менеджер завода по производству роботов, произносит поучительный монолог о том, как изобретатель этих машин, Россум, придумал «упрощенного работника с минимальными потребностями. Он отбросил все, что не было связано непосредственно с работой – таким образом он почти полностью исключил Человека и создал Робота». Эти роботы, подобно монстру Франкенштейна, были готовы немедленно приступить к работе. «Человек – безнадежно несовершенная машина, – объяснял Домин. Природа не принимает современных темпов жизни. С технической точки зрения детство – полный бред. Просто потеря времени».

Неприкрытая идеология, стоящая у истоков создания таких роботов, в своей противоречивой смеси безжалостной глобализации и мессианской риторики сегодня наводит на размышления о технологическом прогрессивизме Силиконовой долины и о смелых предсказаниях о развитии искусственного интеллекта. Домин, сидящий за «большим американским столом» на сцене с плакатами, на которых красуются лозунги вроде «Самый дешевый труд – роботы Россума», утверждает, что эта технология полностью искоренит бедность, и, хотя люди останутся без работы, ведь все будет производиться машинами, они будут вольны жить в стремлении к самосовершенствованию. «О, Адам, Адам! – говорит он. – Тебе больше не придется зарабатывать на хлеб в поте лица; ты возвратишься в рай, где будешь кормиться с рук Господа».

Как обычно и случается с подобными идеями, она провалилась: во втором акте пьесы повсеместно распространившиеся роботы с отличной военной подготовкой отказываются подчиняться виду, который они считают ущербным, и решают уничтожить его с эффективностью и слаженным взаимодействием, которые так высоко ценились их создателями.

Помимо аллегорического описания механизации капитализма, пьеса в грубой преувеличенной манере оживляет связанный с Прометеем страх технологий, призванных воспроизвести человеческую жизнь. Восхождение роботов и следующее за ним почти полное уничтожение человечества представлены не иначе как месть богов, проклятие, неизбежный итог попытки вернуться в рай.

Роботы Чапека похожи на наших искаженных двойников. Согласно сценическим ремаркам, «одетые как люди», с «невыразительными» лицами и «застывшими» глазами они одновременно и машины, и трупы, удивительно похожие на живых мертвецов. Террор роботов в третьем акте пьесы, написанной сразу после Первой мировой войны, может быть интерпретирован как отражение европейского кровопролития; как действие, лишенное «человеческих ценностей», которому роботы научились у своих создателей. Когда Алквист, последний выживший человек, спрашивает, почему они уничтожили всех людей, главный робот отвечает: «Если вы хотите быть людьми, вам придется уничтожать и править. Читайте историю! Читайте человеческие книги! Если вы хотите быть людьми, вам придется захватывать и убивать!»