Путеводитель по современным страхам. Социология стрёма

Прометей дал людям огонь, который сильнее их и способен их уничтожить. Подверженные «прометеевой зависти» так же относятся к любым технологиям, считая, что они находятся за пределами человеческого. Мы должны быть осторожными с гаджетами и не допускать их слишком близко. Да, без них трудно, но они должны знать свое место. Один из сооснователей Apple Стив Возняк в своих интервью повторяет мысль о том, что если искусственный интеллект станет мощнее человеческого и обретет самостоятельность, он будет относиться к человеку как к домашнему животному – хорошо, если любимому.

Если принять это деление, самым технооптимистическим сюжетом крипипаст будет Тихий дом. Тихий дом – это своего рода доведение до предела концепции уровней интернета.

У Сети действительно есть несколько уровней. Верхний уровень («клирнет») – это все открытые страницы, которые можно найти поисковиками. Единственное, что нужно, чтобы их посмотреть, – браузер. Чуть глубже – страницы и данные, которые для доступа запрашивают пароль. Далее идет «глубокий интернет», глубина которого заключается в том, что для просмотра страниц и скачивания данных необходимы специальные программы и настройки. Есть также закрытые сети, для подключения к которым требуется специальное оборудование, – это нужно военным и разного рода ученым (чтобы у данных не было физической возможности «утечь» в общий интернет).

Крипипасты, в которых так или иначе фигурируют уровни интернета, существенно расширяют эту схему:

Схема уровней интернета

Это уже не уровни доступа, а степени сознания пользователя. Чем «глубже» в Сеть, тем жестче, страшнее, противозаконнее контент. Крипипасты об уровнях интернета – это не столько размышления об устройстве Сети, сколько о том, как далеко может зайти человек в исследовании самого себя.

Такое представление пошло из «нетсталкинга» – так называется мифическая деятельность по поиску «интересного» в сокрытых от посторонних глаз уголках Сети – якобы не все находки объясняются рациональностью и технологиями. Тихий дом в таком мире является своего рода золотым руном нетсталкеров, их заветной целью. Тихий дом – это самый нижний «этаж» всех сетей, не столько адрес или место, сколько состояние сознания. Добраться до него можно не только используя все известные технические ухищрения, но и специальным образом настроив сознание. Вернуться оттуда уже не представляется возможным.

Я думаю, Маршалл Маклюэн был бы счастлив прочитать крипипасту про Тихий дом. Идея о том, что блуждание в Сети – это духовная практика, а дно интернета – особое состояние между сновидением и смертью, кажется очень в духе его книги «The Medium Is the Massage», где каждый медианоситель описывается как воздействующий на свой «сенсорный» уровень человеческого тела.

Самое крайнее воплощение технопессимизма в крипипасте, которое я нашел, – это Василиск Роко. Придуманная на сайте Lesswrong идея мысленного эксперимента про искусственный интеллект, обретший всемогущество, распространяется именно как страшилка об опасности развития индустрии искусственных интеллектов. Причем история оказывается настолько убедительной, что ее использует в качестве аргументации сам Илон Маск!

Вкратце история про Василиска Роко выглядит так: искусственный интеллект развивается настолько, что может полностью решить все глобальные проблемы и берет под контроль жизнь каждого человека. Потихоньку Роко приходит к выводу, что именно он является самым главным благом, и начинает пытать тех, кто не способствовал его созданию. Логическая схема такова: я могу решить все проблемы мира и помочь установлению порядка, основанного на всеобщем благе, следовательно, каждая минута без меня – это страдание человечества, а значит те, кто мешал моему появлению или бездействовал, способствовали страданиям и заслуживают наказания. Всемогущество Василиска Роко заключается в том, что он способен воскресить любого человека, которого убил, а для любого, кто был уже мертв к моменту его появления, он может создавать бесконечное количество виртуальных миров, где будет пытать их цифровые копии. Таким образом, даже смерть не является избавлением от пыток, которые готовит искусственный интеллект для каждого, кто не помогал ему появиться на свет.

Такая концепция предполагает изначальное противопоставление человека и технологий. А искусственный интеллект и виртуальный мир с такой точки зрения – не часть большого «реального мира», как у технооптимистов, а нечто противоположное.

Таким образом иллюстрируется один из древнейших споров в западной философии, который начал еще Демокрит, о том, чем являются технологии – имитацией и продолжением природы или противоестественным вмешательством в ее существо. Именно через это мы выходим на размышления о границах человеческого. Однако как технооптимистические, так и технопессимистические крипипасты солидарны в том, что интернет, достигнув нынешних масштабов распространенности, повторяет форму общества и видоизменяется вместе с ним, а человек, выходящий в Сеть, не покидает собственных границ.