Будущее разума

Если мы и дальше будем развивать технику без оглядки на мудрость или осторожность, то слуга может оказаться нашим палачом.

Генерал Омар Брэдли

В 2000 г. в научном сообществе разразилась настоящая буря. Один из основателей Sun Computers Билл Джой написал зажигательную статью, в которой объявил о смертельной опасности, которая угрожает человечеству со стороны передовых технологий. Статья с провокационным названием «Будущему мы не нужны» в журнале Wired гласила: «Самые мощные наши технологии XXI века — робототехника, генная инженерия и нанотехнологии — грозят сделать человечество вымирающим видом». В статье подвергался сомнению моральный облик сотен преданных делу ученых, раздвигающих в своих лабораториях пределы человеческих знаний. Джой подверг сомнению самую суть научных исследований и заявил, что польза от развития техники намного меньше тех громадных угроз, которые эта самая техника создает для человечества.

Он развернул перед глазами читателей жуткую антиутопию, в которой все наши технологии сговорились уничтожить цивилизацию. Против нас когда-нибудь обернутся три ключевых наших создания, предупреждал он:

• когда-нибудь микробы, полученные биоинженерными методами, выскользнут за стены лабораторий и учинят на Земле настоящий хаос. Поскольку собрать их обратно невозможно по очевидным причинам, они, скорее всего, бешено размножатся и породят на планете смертельную чуму хуже, чем в Средние века. Не исключено, что биотехнологии даже изменят ход эволюции человека, положив начало «нескольким отдельным и неравноценным видам… что поставит под угрозу концепцию равенства — краеугольный камень нашей демократии»;

• когда-нибудь наноботы могут взбеситься и выплеснуть в мир неограниченное количество «серой слизи», которая покроет Землю целиком и задушит на ней всякую жизнь. Поскольку наноботы «переваривают» обычные вещества и преобразуют их в другие формы, то испортившиеся наноботы могут выйти из-под контроля и пожрать значительную часть планеты. «Серая слизь станет, безусловно, грустным финалом человеческих приключений на Земле; это намного хуже простого огня или льда, к тому же начаться может с обычной лабораторной случайности»;

• когда-нибудь роботы захватят власть и сменят человечество. Они станут настолько разумными, что просто оттолкнут человечество на обочину. Мы останемся лишь примечанием в книге эволюции. «Роботы ни в каком смысле не будут нашими детьми… На этом пути наше человечество вполне может погибнуть».

Джой утверждал, что по сравнению с опасностью, которую представляют для нас эти три чуда техники, опасность атомной бомбы периода 1940-х гг. может показаться пустяком. Тогда Эйнштейн предупреждал о том, что ядерным технологиям под силу разрушить цивилизацию: «Ясно с поразительной очевидностью, что наши технологии превзошли нашу человечность». Но атомная бомба была создана в результате масштабной правительственной программы, которую можно было жестко регулировать, тогда как эти технологии развиваются частными компаниями, где регулирование сильно ослаблено, если вообще присутствует, указывает Джой.

Конечно, соглашается он, в краткосрочной перспективе эти технологии, возможно, облегчат страдания. Но в долгосрочной перспективе все преимущества померкнут перед тем фактом, что результатом развития этих технологий может стать научный армагеддон, способный положить конец роду человеческому.

Джой даже обвинил ученых в эгоизме и наивности в их попытках создать лучшее общество. Он писал: «Традиционная утопия — это хорошее общество и хорошая жизнь. Хорошая жизнь невозможна без других людей. Эта техноутопия сводится только к заявлениям типа: «Я не буду болеть; я не умру; я буду лучше видеть и поумнею» и т. п. Если бы вы рассказали об этом Сократу или Платону, они посмеялись бы над вами».

Завершается статья следующим заявлением: «Я думаю, не будет преувеличением сказать, что мы стоим на пороге дальнейшего совершенствования абсолютного зла, возможности которого простираются гораздо дальше, чем возможности оружия массового уничтожения по отношению к отдельным государствам…»

Какой же из этого может следовать вывод? «Что-то вроде вымирания», — предупреждает Джой.

Как и ожидалось, статья вызвала целую бурю возражений.

После выхода этой статьи прошло уже больше десяти лет — для высоких технологий это целая жизнь. Сегодня уже можно посмотреть на некоторые из предсказаний автора с позиций нового знания. Оглядываясь назад и рассматривая предупреждения в перспективе, мы без труда заметим, что Билл Джой преувеличил угрозу высоких технологий, но одновременно вынудил ученых взглянуть в лицо этическим, моральным и социальным последствиям их работы, а это всегда хорошо.