В фильме «Я, робот» показан центральный компьютер VIKI, управляющий инфраструктурой большого города. VIKI получает команду защищать человечество, но, изучив, как люди обращаются с другими людьми, компьютер приходит к выводу, что величайшей угрозой для человечества является само человечество. Он математически определяет, что единственный способ защитить человечество заключается в том, чтобы взять управление им на себя.
Еще один пример — легенда о царе Мидасе. Он просил бога Диониса дать ему способность простым прикосновением превращать все что угодно в золото. Казалось бы, такой дар — верное средство добиться богатства и славы. Но Мидас дотрагивается до своей дочери — и она обращается в золото. Пища тоже становится несъедобной. Царь оказывается рабом того дара, который он сам вымолил у бога.
Герберт Уэллс в рассказе «Человек, который умел творить чудеса» разбирает аналогичную ситуацию. В один прекрасный день ничем не примечательный клерк становится обладателем поразительной способности. Все, что он пожелает, сбывается. Однажды вечером он отправляется выпить с приятелем, творя по дороге чудеса. Им не хочется, чтобы так приятно начавшаяся ночь вдруг закончилась, и молодой человек, сам того не подозревая, желает, чтобы Земля прекратила вращаться. Внезапно на них обрушиваются яростные ветры и гигантские волны. Людей, здания и города выбрасывает в космос со скоростью вращения Земли. Поняв, что он только что погубил родную планету, несчастный испытывает последнее желание: чтобы все вернулось в норму и стало так, как было до обретения им невероятной способности.
Здесь научная фантастика учит нас осторожности. Развивая ИИ, мы должны скрупулезно проверять возможные результаты своих действий, особенно те из них, которые, возможно, не очевидны с самого начала. В конце концов, именно способность к такому анализу отчасти и делает нас людьми.
Квантовые вычисления
Чтобы получить более полную картину будущего робототехники, рассмотрим чуть подробнее то, что происходит внутри компьютеров. В настоящее время большинство цифровых компьютеров строятся на основе кремниевых интегральных микросхем и подчиняются закону Мура, который гласит, что каждые полтора года мощность компьютеров удваивается. Но в последние несколько лет технологическое развитие в этой области начало замедляться по сравнению с лихорадочным темпом нескольких предыдущих десятилетий, и кое-кто даже заговорил о крайнем сценарии, в котором закон Мура перестает действовать и серьезно подрывает мировую экономику, которая за много лет стала зависима от почти экспоненциального роста компьютерных мощностей. Если бы такое произошло, Кремниевая долина могла бы превратиться в очередной Фабричный, он же Ржавый, пояс Соединенных Штатов. Чтобы предотвратить потенциальную угрозу этого кризиса, физики всего мира ищут замену кремнию. Они работают над целым рядом потенциальных альтернативных компьютеров, включая молекулярные, атомные, оптические и белковые компьютеры, компьютеры на ДНК и квантовой точке, но ни один из этих вариантов еще не реализован.
Кроме того, в этом наборе вариантов имеется и темная лошадка. Кремниевые компьютеры становятся все меньше и меньше, и когда-нибудь, по идее, их размеры сравняются с размерами атомов. Сейчас в стандартной микросхеме Pentium толщина кремниевых слоев может соответствовать примерно 20 атомам. Еще в этом десятилетии толщина слоев, возможно, уменьшится до всего лишь 5 атомов, и в этом случае электроны начнут утекать из них, как предсказывает квантовая теория, порождая короткие замыкания. Необходим компьютер на каких-то новых принципах. Кремниевые микросхемы, в принципе, могут быть заменены молекулярными, возможно созданными на основе графена, но когда-нибудь даже у молекулярных компьютеров возникнут проблемы, связанные с эффектами, которые предсказывает квантовая теория. Тогда нам, вероятно, придется строить предельный — квантовый — компьютер, способный работать на крохотнейшем из возможных транзисторов: на единственном атоме.
Вот как он мог бы работать. Кремниевые схемы содержат так называемые ключи — элементы, которые могут быть либо открыты, либо закрыты для потока электронов. Информация хранится на основе таких открытых или закрытых контуров. Этот процесс описывает двоичная система счисления, основой для которой служат серии единиц и нулей: 0 может описывать состояние закрытого ключа, а 1 — открытого.