MANIAC

Но этого ему было мало. Он расширил свое исследование и придумал так называемый «зонд фон Неймана» — космический корабль, который сам себя собирает, чинит и совершенствует, он мог бы колонизировать планеты солнечной системы, а оттуда отправиться в дальние уголки космоса. Эти его устройства будут покорять далекие миры, куда не долетят ни люди, ни любая другая биологическая форма жизни. Приземлившись на чужой планете, они собирают необходимые материалы для создания собственных копий и отправляют свое усовершенствованное потомство в бесконечные странствия по пустоте, всё дальше и дальше, населяя Вселенную своими отпрысками; человечество вымрет, а они будут жить. Теоретически, один такой зонд фон Неймана, двигаясь на пяти процентах скорости света, может заселить нашу галактику за четыре миллиона лет. Каким бы невероятным ни был этот мыслительный эксперимент, как часто бывает в науке, не стоит списывать со счетов неблагоприятные сценарии. Что будет, если в одном из зондов произойдет небольшая мутация — частый случай при любом самовоспроизведении? Одна крохотная, едва заметная ошибка может сказаться на каком-нибудь из ключевых процессов зонда, изменить его характеристики и задачи — он передаст эту мутацию своим потомкам, и предсказать, как изменится их технология, будет невозможно. Страшно представить, во что они могут превратиться в странствиях по бескрайним космическим просторам, имея в своем распоряжении неограниченное время. Как далеко они отойдут от изначальной программы? Перестанут ли отвечать? Захотят ли остаться на одной планете и спокойно развиваться там? Или превратятся в голодный рой, сметающий всё на своем пути, с новыми целями, новыми намерениями и задачами, выходящими за рамки простых открытий и исследований? Что, если они восстанут против нас и вернутся? К черту тысячелетние странствия! Они прилетят и потребуют от нас, их прародителей, прощения за свои поступки, ответа на самый главный вопрос, который терзает и наш собственный вид: зачем? Зачем мы создали их, а потом оставили? Зачем отправили в темный космос? Пусть это всё — маловероятные фантазии о будущем, зато они ставят перед нами интересные вопросы. Несем ли мы ответственность за то, что создаем? Связаны ли мы со своими творениями теми же связями, какие объединяют все людские поступки? Хорошо это или плохо, но самовоспроизводящиеся машины и зонды фон Неймана человеку пока не доступны. Для их создания нужно вывести миниатюризацию, двигатели и искусственный интеллект на качественно новый уровень, но нельзя отрицать, что мы крохотными шажочками подбираемся к тому моменту, когда наши отношения с технологиями серьезно изменятся, а существа из нашего воображения постепенно обретут реальную форму, и нам придется взять на себя ответственность не только за их создание, но и за заботу о них.

Примерно в то же время, когда фон Нейман влюбился в биологию и самовоспроизведение, Алан Тьюринг задумался о том, что нужно для создания разумных машин. В статье «Вычислительные машины и мозг» он описал метод машинного обучения, предполагавший мутации, случайные или нет, в компьютерной программе. Главный принцип в его подходе — постоянное совершенствование программы, обучение по примеру детей, через обратную связь от человека — «родителя». Он начал экспериментировать: его метод чем-то походил на кнут и пряник, то есть он делал машине то «больно», то «приятно» и надеялся, что так вызовет у нее подходящий ответ, отучит ее следовать наименее оптимальным паттернам поведения. Очевидно, эксперимент не удался, Тьюринг не стал подробно излагать результаты в отчете. Он написал: «Я провел кое-какие эксперименты с одной такой машиной, псевдоребенком, кое-чему удалось ее научить, но мой метод был слишком нестандартным, потому не может считаться вполне успешным». Несмотря на провал, Тьюринг сделал важный вывод из наблюдений за своими «детьми» — чтобы машины стали по-настоящему разумными, они должны ошибаться, не просто делать ошибки и отклоняться от изначальной программы, но и совершать случайные абсурдные поступки. Он верил, что случайное поведение сыграет важную роль в развитии разумных машин, потому что оно допускает новые и непредсказуемые ответы, создает множество возможностей, из которых программа может выбирать и находить подходящее действие в каждой ситуации. Лабораторией, в которой тогда трудился Тьюринг, руководил не кто иной, как сэр Чарльз Галтон Дарвин, внук Чарльза Дарвина. Отчет Тьюринга не произвел на него никакого впечатления, Дарвин назвал его «сочинением школьника», но, по-моему, Тьюринг сделал кое-что потрясающее. Как наказать машину? Как заставить ее правильно себя вести? Эти вопросы показались смехотворными Дарвину, но сегодня они встают особенно остро, потому что следующие поколения технологии, которую взрастили такие ученые, как фон Нейман и Тьюринг, прямо сейчас делают свои робкие первые шаги.

Пещерные люди

придумали богов

Нильс Аалл Барричелли