Взгляд со звезд

Технология, дарующая бессмертие, не так проста, как может показаться на первый взгляд. С точки зрения социологии мир, который никогда не умирает, будет наполнен вещами, которые недоступны нашему пониманию. Бессмертие приведет к обрушению существующих структур в политике, экономике, философии и культуре. На свет появится новая цивилизация.

Я говорю это все, чтобы довести до вас одну мысль: не игнорируйте здоровый образ жизни, ведь он не просто даст вам еще пару жалких лет. Сейчас люди только добрались до устья жизни, но скоро мы выйдем в ее огромное, бескрайнее море. Прожить еще несколько лет – значит дать себе еще несколько шансов на успех; потеряв один дюйм прогресса, вы, возможно, потеряете тысячу миль. Жаль, если придется умереть всего в одном шаге от лестницы, ведущей к вечной жизни.

Страшный сценарий: взятие заложников

А если я скажу, что в истории человечества не было ни одной тирании? Что бы вы на это ответили? Не спешите выходить из себя; сначала подумайте о том, что человечество еще никогда не обладало технологическим фундаментом, необходимым для построения действительно тоталитарного общества.

Все знаменитые диктаторы, стремившиеся управлять людьми, использовали пирамиду власти. Эта структура полностью состояла из людей, хитрость и непредсказуемость которых ставила под удар всю структуру. Диктаторы тратят невероятное количество энергии просто на то, чтобы укрепить эту структуру власти, и часто терпят неудачу. Доверенные лица внезапно предают их, военные могут в любой момент устроить переворот: знаменитые слова Цезаря «И ты, Брут?» – звучат в кошмарных снах всех тиранов. И поскольку авторитарными обществами обычно управляет небольшая горстка людей, власти не могут следить за каждой секундой жизни каждого человека. Даже порабощенные народы могли в течение длительных периодов времени избегать внимания со стороны новых повелителей и их надзирателей.

Если посмотреть на развитие технологий через призму истории, можно сказать, что оно в целом принесло пользу как обществу, так и правящим кругам. Промышленная революция привела в города толпы крестьян, и эти люди помогли осуществить демократические революции и реформы; технологии в издательском деле и сфере коммуникаций позволили просветить людей и распространить принципы демократии. В определенном смысле именно развитие технологий помогло солнцу гуманизма осветить каждый уголок общества в эпоху Возрождения. А в наше время развитие информационных технологий помогает еще большему числу людей публично заявлять о своих желаниях.

Но здесь необходимо сделать оговорку: пока еще не появились технологии, которые радикально изменили бы облик общества. Механизмы государства и правительства состоят из людей. Пока большинство людей хранит верность идеалам демократии, государственной машиной не сможет управлять тиран.

Однако зарождается сила, которая сделает государственный аппарат по-настоящему механистическим, находящимся под управлением машин. Я говорю об искусственном интеллекте.

Когда искусственные интеллекты (ИИ) станут такими же разумными, как и люди, возникнет государственная администрация, которая будет в полной мере управляться ИИ; кроме того, появится армия роботов. Эта система будет абсолютно стабильной, и если контроль над ней получит диктатор, то гражданам придется быть абсолютно покорными. И поскольку у сети ИИ будет почти неограниченное количество энергии, она, скорее всего, сможет следить за каждым членом общества и контролировать его.

Но ИИ дает только технологическую базу для тоталитаризма; пока история идет обычным курсом, этот кошмар, скорее всего, не воплотится в жизнь, потому что мечты о демократии уже укоренились в сердцах людей. Демократия стала краеугольным камнем современного общества, и останется им. Но есть определенные сценарии, которые нужно учитывать, например катастрофы – либо природные, либо антропогенные. Мы должны помнить, что для появления невиданной ранее системы слежки понадобилось всего лишь обрушить два небоскреба в США.

Возможно, общество людей пострадает от последствий даже более страшной технологической сингулярности, чем появление искусственного интеллекта: возможно, кто-то возьмет в заложники саму Землю.

Прежде всего, мы должны прояснить термин «взять в заложники»: я имею в виду ситуацию, в которой один человек или группа людей, стремящиеся добиться своих политических целей, угрожают применить оружие, которое уничтожит всех или большинство людей (и в том числе их самих) в закрытом, ограниченном пространстве (часто в движущемся и даже летящем объекте). По сравнению с самолетом, кораблем или катером Земля является еще более опасным объектом – тем, кто живет на ней, бежать некуда. Итак, как же можно взять Землю в заложники?