MANIAC

Он всегда был пессимистично настроен по поводу будущего и человечества вообще, но, когда болезнь завладела им, стало казаться, что черная рука омрачает его мысли, расцвечивает его взгляды и мировоззрение самыми темными цветами. Приближение смерти, неизбежность его собственной смертности довели его до отчаяния, толкнули за пределы логического. Под конец жизни он видел будущее настолько мрачным, представлял себе настолько страшные сценарии, что перестал разговаривать и не захотел ни с кем делиться своими мыслями. В своем последнем письме, адресованном мне, он писал, что вскоре мы обязательно столкнемся со сменой фазы: «Современные жуткие возможности ядерной войны могут привести к чему-то пострашнее. Буквально и фигурально выражаясь, места становится всё меньше. В долгосрочной перспективе мы прочувствуем ограниченность реальных размеров Земли, и это будет критично. Назревает кризис технологий. За время, оставшееся до наступления нового тысячелетия, мировой кризис, вероятно, превзойдет все прежние закономерности. Когда и как он закончится, что оставит после себя — не знает никто. Мало утешения в мыслях о том, что интересы человечества однажды изменятся, угаснет современная тяга к науке, и совершенно иные устремления будут занимать мысли людей. Технология, в конце концов, — это продукт деятельности человека, ее нельзя воспринимать как что-то Иное. Она такая же часть нас, как паутина — часть паука. Тем не менее, похоже, что постоянно развивающиеся технологии приближают какую-то обязательную сингулярность, поворотный момент в нашей истории, за которым дела людей невозможно будет вести так, как мы вели их до сих пор. Прогресс станет непостижимо быстрым и сложным. Власть технологий сама по себе — достижение двоякое, а наука насквозь нейтральна, она дает нам только инструменты для достижения цели и ко всему равнодушна. Опасность создает не особенно извращенная деструктивность какого-то определенного изобретения. Опасность имманентна. Нет лекарства от прогресса».

15 июля 1958 года около полуночи Джулиан Бигелоу приехал в Институт перспективных исследований, спустился в помещение, где стоял MANIAC; прижавшись к стене, потянулся за заднюю стенку компьютера и отключил управляющее устройство. Потянул на себя спутанный клубок черных проводов, запитанных от основной электросети здания, как огромную пуповину, пока не отсоединил его. Нити накаливания тут же остыли, фосфеновое мерцание катодов угасло, вакуумные трубки, до того момента поддерживавшие память MANIAC в едва заметных следах электростатического заряда, уснули. Он не заработает больше никогда.

Я видела приведение на днях — скелет машины, которая сравнительно недавно была совсем живая и вызывала ожесточенные споры, а теперь бесславно упокоилась в своей могиле. Компьютер, старый, первый, известный как JONNYAC или MANIAC, официальное название — «числовая вычислительная машина Института перспективных исследований», оказался взаперти; его не похоронили, а спрятали в чулане здания, где он когда-то был королем, и, быть может, он ждет, что однажды пробудится снова и станет преследовать нас. Его отключили от источника жизненной силы — от электричества; разобрали его дыхательную систему — вентиляцию. Его маленький неф еще сохранился, туда можно попасть из просторного зала, фойе, где стояло вспомогательное оборудование, а сейчас пылятся пустые коробки, старые столы и прочая параферналия, которая неизменно сначала попадает в такие каморки, а потом о ней забывают. Sic transit gloria mundi. Так проходит мирская слава.

«Кузнечик в самой высокой траве»,

недатированная и неопубликованная

автобиография, Клара Дан фон Нейман

Прежде чем фон Нейман перестал реагировать и говорить даже с друзьями и членами семьи, его спросили, что нужно, чтобы компьютер или другое механическое устройство научились думать и вести себя как человек.

Он долго молчал, а потом еле слышно, почти шепотом ответил.

Сказал, компьютер нужно не собирать, а дать ему вырасти.

Сказал, он должен понимать язык, уметь читать, писать и говорить.

А еще играть как ребенок.

Ли, или Иллюзии искусственного интеллекта

Раз у нашего земного существования самого по себе весьма сомнительный смысл, оно может быть лишь средством на пути к цели иного существования. Мысль о том, что смысл есть у всего на свете, в конечном счете в точности повторяет принцип, согласно которому у всего есть причина, а на нем строится вся наука.

Курт Гёдель, из письма матери