Стеклянная клетка

Можно также взять для примера поисковую систему Google. В своей исходной форме она предназначена для запроса. Интерфейс был очень прост, но сервис заставлял пользователя обдумывать запрос, тщательно его составлять и отбирать ключевые слова для получения оптимального результата. Теперь все эти хлопоты остались в прошлом. В 2008 году компания ввела в поисковик опцию Google Suggest, систему, которая, опираясь на вероятностные алгоритмы, предвосхищает то, что вы ищете. Стоит вам ввести первую букву запроса, как Google тут же услужливо предлагает набор возможных запросов в оптимальной форме. С каждой следующей буквой набор предложений изменяется. За этим новшеством прячется настойчивое, почти маниакальное стремление к эффективности. Приняв на вооружение мизантропические ценности автоматизации, Google рассматривает человеческое познание как плохо отлаженный и неуклюжий биологический процесс, доверить который можно только и исключительно компьютеру. «Могу утверждать, что пройдет еще несколько лет, и на большинство запросов ответ будет даваться раньше, чем вы успеете дописать вопрос, – говорит Рэй Курцвейль, изобретатель и футурист, назначенный в 2012 году руководителем технического отдела компании. – Машина заранее будет знать, что вы хотели увидеть» [2]. Конечная цель – полностью автоматизировать акт поиска, выбросить из процесса изъявление человеческой воли.

Социальные сети, например Facebook, все больше проникаются такими же идеями. Они стараются упорядочить хаотичный процесс привлечения новых участников путем «статистического» приобретения новых друзей, «like» и другими символами симпатии и привязанности, а также автоматизированным управлением многих аспектов человеческих отношений. Основатель Facebook Марк Цукерберг приветствует все эти достижения как символ «беспрепятственного общения», не требующего никаких осознанных усилий. Есть отталкивающий момент в применении социальных сетей – это стандартизация связей между людьми. Человеческие отношения требуют доверия, обходительности и жертвенности, что, с точки зрения технократического ума, является источником неэффективности и неудобства. Общение становится похожим на привязанность потребителя к товару, которая легко формируется, но так же легко и исчезает.

Подобно чрезмерно назойливым родителям, не дающим детям поступать самостоятельно, Google, Facebook и другие изготовители программ для личного пользования способствуют уничижению и нивелированию тех черт характера, которые по крайней мере в прошлом считались незаменимыми для полноценной энергичной жизни: изобретательности, любопытства, независимости, упорства, отваги. Неужели в будущем люди будут пользоваться всеми этими добродетелями в их бутафорском виде, совершая виртуальные подвиги руками таких персонажей, как Джон Марстон, в иллюзорных мирах на экранах наших компьютеров?

Глава восьмая Ваш внутренний робот

Представьте себе холодный декабрьский вечер. Пятница. Человек едет домой с корпоративного праздника. Точнее, сказать, его везут домой. Он недавно купил свою первую самоуправляющуюся машину, запрограммированный Google, сделанный на заводе Mercedes электромобиль eSmart. И за рулем не он, а программа. В свете автоматически настраиваемых светодиодных фар он видит затянутые льдом лужицы, но на них можно не обращать внимания, так как снабженный чувствительными датчиками робот регулирует скорость и газ в полном соответствии с дорожными условиями. Все идет гладко. Человек расслабился и погрузился в приятные воспоминания о праздничном вечере. Он углубляется в густой лес, нависающий с обеих сторон, и вдруг из-за деревьев на дорогу выбегает какое-то животное и застывает в свете приближающихся фар. Это соседский охотничий пес, никогда не отличавшийся дисциплинированностью.

Что делает робот-водитель? Нажмет ли он на тормоза, спасая собаку, но рискуя тем, что машина пойдет юзом? Или уберет виртуальную ногу с педали тормоза, пожертвовав собакой ради безопасности пассажира и автомобиля? Как будет компьютер разбираться в потоке переменных и вероятностей, чтобы за долю секунды принять решение? Если посчитано, что торможение будет означать для пса вероятность уцелеть, равную 53 %, и существует вероятность 18 %, что будет повреждена машина, а с вероятностью 4 % человек, сидящий в машине, получит травму, то сочтет ли компьютер спасение собаки правильным действием? Каким образом программа, работая самостоятельно, переведет набор чисел в решение, чреватое неприятными практическими и моральными последствиями?