Искусственный интеллект и экономика. Работа, богатство и благополучие в эпоху мыслящих машин

И все-таки я глубоко осознаю разрыв между гипотетическим миром сингулярности, выглядящим как научная фантастика, и современными достижениями робототехники и искусственного интеллекта, которые влияют на экономику здесь и сейчас. Нынешние изменения в данной области требуют правильной реакции как со стороны компаний, так и со стороны частных лиц, преследующих свои собственные интересы, не говоря уже о правительствах, смыслом деятельности которых является достижение и поддержание общественного благополучия.

Как перспектива сингулярности должна влиять на эти решения и вообще должна ли? Ответ на это, среди прочих, формулирует Джон Брокман, «культурный импресарио», связанный со многими ведущими мировыми учеными и мыслителями в области искусственного интеллекта. Он полагает, что на текущие решения всех участников нынешних событий грядущие революционные изменения могут оказать заметный эффект. В частности, Брокман пишет: «Не нужно быть сверхразумным интеллектуальным существом, чтобы понять, что мчаться неподготовленным, сломя голову, навстречу крупнейшему событию в истории человечества, было бы просто глупо»[13].

Ему вторит Стюарт Рассел, профессор компьютерных наук Калифорнийского университета, заявляющий, что не готовить себя к эпохе сингулярности было бы самонадеянным или даже откровенно безответственным решением. Расселу принадлежит следующая цитата: «Если бы мы получили радиосигнал от более продвинутой инопланетной цивилизации, сообщающей, что они прибудут сюда через 60 лет, сомнительно, чтобы вы просто пожали плечами и сказали: “Эх, еще 60 лет дожидаться…”. Особенно если бы у вас были дети»[14].

На самом деле, я категорически не согласен с этой точкой зрения. Я бы не стал спешить с принятием серьезных решений после получения радиосигнала. Во-первых, я захотел бы убедиться, что сообщение действительно пришло от инопланетной цивилизации, и мне было бы интересно узнать, как звучит оригинальная запись сигнала, чтобы заранее знать, как правильно анонсировать его действия или прогнозировать события. Но, если бы это было первое, совершенно неожиданное сообщение, конечно, такой записи вероятно бы не было, что само по себе настораживает. В этой ситуации я бы, например, сразу вспомнил, что 30 октября 1938 г. знаменитая трансляция Орсоном Уэллсом радиоверсии антиутопического романа Герберта Уэллса «Война миров», в котором прозвучало сообщение, что пришельцы с Марса якобы вторглись в Нью-Джерси, напугала тысячи американцев и вызвала всеобщую панику.

Затем, если бы я решил, что этому посланию можно верить (разумеется, исключив из рассмотрения обоих Уэллсов, Орсона и Герберта), то задался бы вопросом о том, что именно мы можем сделать. Стоит ли готовиться к войне или планировать дружескую встречу? И еще: предположим, что в сообщении сказано, что инопланетяне прибудут через 200 лет, или даже через 500 – короче говоря, через какое-то время, пусть бы и через неделю. То, что мы должны сделать, будет радикально отличаться в зависимости от того, насколько близким или отдаленным предполагается появление космических пришельцев.

Это я пишу к тому, что люди, которые утверждают, что сингулярность уже близка, не являются всезнающими существами из какой-то более развитой, чужой цивилизации; они скорее приверженцы «культа сингулярности» здесь, на Земле. И несмотря на весь их энтузиазм или даже принципиальную возможность осуществления этой концепции существует немало веских аргументов (которые я рассмотрю в конце книги) в пользу того, что они ошибаются (и расскажу почему).

Большое значение здесь имеют временные масштабы. Верующий в возрастающую и непреодолимую мощь искусственного интеллекта лорд Рис, которого я цитировал ранее, предполагает, что машины, вероятно, захватят власть «в течение нескольких столетий». Допустим, он совершенно прав; однако и в этом случае если наступление эпохи сингулярности отдалено от нас настолько, насколько лорд Рис считает вероятным, то вполне возможно, что человечество погибнет гораздо раньше, например, от последствий ядерной войны, падения гигантского астероида, пандемии или бог знает от чего еще. Предположим однако, что нам все-таки удастся дожить до того пафосного момента.