Гарвардский Некромант

– Совершенно не обязательно умный. Посмотрим на наши симуляции. Созданные нами виртуальные ИИ легко обходят нас во многих интеллектуальных задачах. Зачем создавать сложную программу для задачи, которую человек выполнит лучше и быстрее? Если бы мы моментально перемножали гигантские цифры в уме, разве бы нам понадобился калькулятор? Разумеется, нет. Зачем нужны квантовые компьютеры? Потому что они решают задачи, с которыми не справляются обычные вычислительные системы, например расшифровывают сложные коды. Люди создают думающие инструменты затем, что нуждаются в них.

При этом мы создаем нейронные сети, которые не имеют вложенных функций, но способны эволюционировать. И они учатся решать сложнейшие задачи, вытворяя такое, что людям и не снилось.

Симуляция, способная породить разум, подобный человеческому, оказалась бы крайне полезна тому, кто ее запустил. Но только при условии, что люди в чем-то превосходят «создателя», хотя бы при решении некоторых задач или собравшись в коллектив. Для всезнающего и всемогущего Бога нет никаких причин создавать нечто, способное к вычислениям или мышлению, включая людей. А вот у ограниченного и неидеального программиста мотивов полно.

– Так откуда берутся баги, если симуляция соответствует строгим законам физики?

– Давайте еще раз представим, что мы находимся внутри виртуальной вселенной. Развитие симуляции действительно определяют законы физики, которые позволили случиться эволюции, породившей миллиарды в меру разумных ИИ – людей. Теперь наши мозги вычисляют нечто нужное для этой симуляции. Для нас весь процесс занял миллиарды лет, но, возможно, подобные сроки – ничто для самой симуляции и всего, что находится вне ее. Муха куда быстрее человека реагирует на изменения окружающей среды. Возможно, ее восприятие времени отличается от нашего. Ну а мы куда меньше мухи в масштабах симуляции. Восприятие времени субъективно и относительно, оно зависит от способа измерения и наших внутренних часов, поэтому вся история человеческой расы теоретически могла бы оказаться чьим-то домашним заданием на выходные, – с позиции внешнего наблюдателя, разумеется.

– Как микровселенный аккумулятор из эпизода «Рика и Морти». Миниатюрная вселенная, чьи жители производят электричество, питающее космический корабль.

– Именно. Только в реальности наш мир вышел бы скорее противоположностью батарейки. Мощность, необходимая для того, чтобы поддерживать нашу симуляцию, скорее всего, колоссальна, и кое-какие меры понадобились, чтобы уменьшить энергопотребление. Чуть позже я объясню, как это могло привести к багам.

И есть еще одна проблема, связанная с ограничением скорости передачи информации. Один мой российский коллега предложил довольно интересный, но странный мысленный эксперимент. Представьте гигантскую многоножку. Она очень длинная и крайне быстро бежит. Первой парой ног членистоногое сталкивается с неким препятствием. Электрический сигнал, сообщающий о преграде, начинает свой путь по нейронной сети к задним ногам. Самая высокая скорость передачи электрических сигналов у животных составляет около 120 метров в секунду, или 432 километра в час. Если многоножка бежит быстрее, у нее нет способа сообщить своим задним ногам, что их ждет впереди.

Я описал ситуацию, аналогичную той, которая возникает из-за естественного барьера для передачи информации в нашей Вселенной – ограниченности скорости света. Более того, некоторые уравнения специальной теории относительности прекрасно описывают бегущую многоножку, если заменить в них скорость света на скорость проведения электрического импульса. Компьютер, внутри которого сигналы передаются со скоростью света, то есть около 300 000 000 метров в секунду, может поддерживать такое же время обмена информацией между своими самыми дальними частями, как человеческий мозг (диаметром чуть менее 0,15 метра), если он примерно в 3 000 000 раз больше в размере. Это очень много, но все равно лишь 450 километров в диаметре, что в восемь раз меньше диаметра Луны. Более крупный компьютер неизбежно будет передавать информацию с большей задержкой, чем человеческий мозг.

Я хочу сказать, что огромная симуляция может иметь ограниченную скорость вычислений, и это, вероятно, тоже послужит причиной багов.

– Не понимаю. Ведь ограничения по скорости вычислений сами по себе не создают багов…

– Верно. Но ошибки могут возникать из-за попыток оптимизировать вычисления. Химики владеют методом для изучения взаимодействий между молекулами, который называется «молекулярная динамика». С ее помощью специалисты предсказывают, связывается ли определенная малая молекула с некоторой частью интересующего нас белка, занимает ли она его активный центр и нарушает ли его функцию. Такой метод незаменим при разработке лекарств. Хотите изобрести противовирусное средство? Найдите вещество, которое связывает важный вирусный белок, необходимый для его размножения или передачи от клетки к клетке.