К свету

- Однако третья волна искусственного интеллекта, на которую DARPA и немало других людей начали обращать внимание еще до вторжения, была разработана для применения к компьютерам реальных рассуждений и принятия решений. Чтобы позволить им функционировать независимо от принятия решений человеком. Чтобы - возвращаясь к моему предыдущему примеру - создать пилотов с искусственным интеллектом, способных управлять автономными космическими кораблями между звездами, чтобы это не приходилось делать экипажам шонгейри, бартони или крепту. У них действительно есть системы для управления кораблями, пока экипажи находятся в крио, но они не автономны; они не способны думать сами, если происходит что-то неожиданное для их программирования. В этом случае они должны разбудить командный состав корабля, чтобы получить указания.

- Основываясь на нашей собственной работе, мы убеждены, что можем использовать их существующее "блестящее программное обеспечение" для создания систем искусственного интеллекта, которые действительно автономны. Смогли бы мы создать системы искусственного интеллекта, которые обладали бы самосознанием, или нет, это, конечно, другой вопрос, но мы, безусловно, должны быть в состоянии создать что-то, что дает ужасно убедительную имитацию самосознания. То есть при условии, если мы решим, что хотим этого. Существует ужасно много научной фантастики о потенциальных недостатках создания самосознающего разума, который решает, что ему не нравится выполнять приказы своих создателей. - Ее губы на мгновение изогнулись в усмешке, но затем выражение ее лица снова стало серьезным. - Однако с точки зрения эффективности автономный искусственный интеллект был бы огромным мультипликатором. Несмотря на это, у Гегемонии его нет, когда, по всем человеческим стандартам и самоочевидным возможностям ее технической базы, он должен быть.

- Хмммм.... - Хауэлл задумчиво потер подбородок. - Значит, если бы мы могли использовать их технологию для создания этого вашего "ИИ третьей волны" для себя, у нас было бы преимущество? Большое?

- Очень большое, мистер президент. Но Дэмианос - доктор Карахалиос - поднимает несколько других вопросов в своем текущем отчете. Наши писатели-фантасты и довольно много серьезных ученых изучают нейронное взаимодействие уже пару десятилетий, и мы достигли этого, по крайней мере, до некоторой степени. Например, была проделана очень обнадеживающая работа с использованием компьютерных чипов, доступных для нейронов, для хранения воспоминаний пациентов с болезнью Альцгеймера. Это не то же самое, что прямая связь между мозгом и компьютером, но она движется в том же направлении, и последствия фактического достижения такого рода связи огромны. У нас был большой опыт отдачи устных команд компьютеру еще до вторжения. Это расстраивает - или это было расстраивающим - когда компьютер неправильно вас понял, может быть, из-за фонового шума, может быть, потому, что вы говорили нечетко. Но подумайте, если бы вместо этого вам пришлось физически вводить каждую команду. Даже нажатие на экран вашего айфона или гэлэкси обычно занимало больше времени, чем устная команда. Но теперь представьте, что вы могли бы отдавать команды своему компьютеру со скоростью мысли и никогда не допускать, чтобы он вас неправильно понял. Как думаете, это могло бы ... повысить вашу эффективность?

- Да, представляю, как это было бы, - медленно произнес Хауэлл.

- Конечно, это было бы так, но мы не видим никаких признаков этого в компьютерных технологиях Гегемонии. И это несмотря на то, что они овладели искусством нейронного обучения, так что у них явно есть способность отправлять чрезвычайно сложные массивы данных по крайней мере одним способом через нейронный интерфейс, и у них это было дольше, чем Земле пришлось мириться с Homo sapiens! Так почему же за все это время они не развили способность посылать мысленные команды в систему? Мы даже не видим никаких предположений о такой возможности в литературе, к которой нам пока удалось получить доступ!

- Почему нет?

- Это мы хотели бы знать, мистер президент. Но мы заметили несколько других вещей, большинство из которых, по-видимому, связаны с тем же видом ... осторожности, которая, похоже, встроена во всю промышленную базу Гегемонии. Их язык программирования рекурсивный, что означает, что функция может вызывать саму себя, и это также то, что мы могли бы назвать "типобезопасным", означающее, что он предназначен для предотвращения выполнения системой операции с переменной неправильного типа.