Искусственный интеллект и будущее человечества

Однажды утром, спустя несколько месяцев после поездки в Сан-Франциско, я лежал дома в Дублине, страдая от простуды и похмелья, отягчающего обстоятельства моего вчерашнего выхода за все разумные пределы в выпивке, и лениво подумывал о том, что пора бы уже вытащить себя из постели, чтобы присоединиться к жене и сыну, которые увлеченно играли в ковбоев в соседней комнате. Я испытывал физическое недомогание. Как это часто бывает при простуде, я ощущал себя биологическим существом из плоти, крови и хрящей. Я чувствовал заблокированные носовые проходы, горло, замученное бактериями, скорбную боль внутри всего черепа, внутри цефалона. Короче говоря, я осознавал свой субстрат, потому что мой субстрат был в крайне прискорбном состоянии.

И меня охватило внезапное любопытство, что конкретно есть этот субстрат, а что я сам, с технической точки зрения. Я потянулся к телефону, лежащему на тумбочке, и ввел в Google слова: «Что такое человек…» Первые три варианта автозаполнения были: «Что такое человеческая многоножка», «Из чего состоит человеческое тело» и «Что такое человеческое бытие». На второй вопрос я и хотел получить ответ.

Оказалось, что я на 65 процентов состою из кислорода, а это значит, что я в основном воздух. Также я состоял из непрерывно сокращающихся объемов углерода, водорода, кальция, серы и хлора и так далее по периодической таблице химических элементов. Я был слегка удивлен, узнав, что в мой состав, как и в состав айфона, входят микроэлементы из меди, железа и кремния.

Какое прекрасное творение – человек, думал я, какая квинтэссенция праха.

Несколько минут спустя в спальню на четвереньках заползла моя жена, усадившая на спину сына, крепко сжимавшего ворот ее рубашки кулачками. Она цокала, пока передвигалась, а сын смеялся во весь голос и кричал: «Стой! Стой!».

Издав громкое ржание, подобно лошади, она изогнулась и осторожно сбросила малыша со спины в стоящие у стены ботинки – он вскрикнул от восторга и вскочил на ноги.

Я чувствовал: ничего из этого невозможно запрограммировать. Я чувствовал: ничего из этого невозможно запустить ни на каком другом субстрате. Их красота была физической, телесной – в самом глубоком, самом грустном и самом прекрасном смысле слова.

Я осознал, что никогда не любил жену и нашего маленького мальчика больше, чем когда думал о них как о млекопитающих. Я вытащил себя и свое тело из постели, чтобы присоединиться к ним.

Глава 5 Краткая заметка о сингулярности

Не существует ни одной общепринятой версии технологической сингулярности. Это свет, сияющий над горизонтом Силиконовой долины, появляющийся то как религиозное пророчество, то как прогноз технологического развития. Нет предела богатствам, которые, по утверждению верующих, принесет сингулярность, нет конца рассказам о них. В самом широком смысле этот термин относится к тому времени, когда машинный интеллект будет значительно превосходить возможности своих человеческих создателей и когда биологическая жизнь подчинится технологиям. Это своего рода крайность технического прогрессивизма, вера в то, что универсальные технологии решат неразрешимые проблемы мира.

Эта идея в той или иной форме существует уже по меньшей мере полвека. В 1958 году Станислав Улам в некрологе своему коллеге, физику Джону фон Нейману, с которым они работали над Манхэттенским проектом, вспомнил их разговор об «ускоряющемся прогрессе технологий, изменениях в жизни людей и приближении некоторой важной вехи в истории, когда все изменится».

Первое подробное изложение принципов технологической сингулярности обычно приписывается математику и писателю-фантасту Вернору Винджу. В эссе «Грядущая технологическая сингулярность: как выжить в постчеловеческой эре», впервые представленном на конференции NASA в 1993 году, Виндж заявил, что «в течение ближайших тридцати лет у нас появятся технологические средства для создания сверхчеловеческого интеллекта. Вскоре после этого человеческая эра закончится». Виндж неоднозначно относился к последствиям этой великой трансцендентности: она могла ознаменовать как завершение всех наших проблем, так и полное уничтожение нашего вида. Но то, что она грядет, не вызывает никаких сомнений. Как и у многих мыслителей эры миллениума, предсказания Винджа характеризуются странным историческим детерминизмом: сингулярность невозможно предотвратить, уверен он, так как ее появление – это неизбежное следствие нашей конкурентоспособности и возможностей технологии. А еще, пишет он, все мы – инициаторы этого процесса.