Совместимость. Как контролировать искусственный интеллект

Наши действия структурированы в сложные иерархии с десятками уровней абстрагирования. Эти уровни и входящие в них действия являются принципиально важным элементом нашей цивилизации и передаются от поколения к поколению посредством языка и практических навыков. Например, такие действия, как поимка дикого кабана, обращение за визой или покупка билета на самолет, могут включать миллионы примитивных действий, но мы можем рассматривать их как единые комплексы, поскольку они уже входят в «библиотеку» действий, описанных нашей речью и культурой, а также потому, что мы (примерно) знаем, как они выполняются.

Когда высокоуровневые действия попадают в библиотеку, мы может последовательно составлять из них действия еще более высокого уровня, такие как празднование летнего солнцестояния всем племенем или археологические раскопки летом в отдаленной части Непала. Попытка спланировать подобные мероприятия с нуля, начав с шагов управления движением самого нижнего уровня, обречена на провал, поскольку они включают миллионы или миллиарды шагов, многие из которых практически непредсказуемы. (Где будет найден дикий кабан и в какую сторону побежит?) Напротив, имея в библиотеке соответствующие высокоуровневые действия, нужно запланировать лишь около десятка шагов, поскольку каждый шаг представляет собой большой фрагмент общего действия. На это способен даже маломощный человеческий мозг, однако это дает нам «суперсилу» для долгосрочного планирования.

Были времена, когда подобных действий как таковых не существовало. Например, чтобы получить право на полет на самолете в 1910 г., нужно было пройти долгий, затратный и непредсказуемый процесс изучения вопроса, написания писем и переговоров с пионерами авиации. В библиотеку добавились и другие действия: мы пишем электронные письма, гуглим и пользуемся Uber. В 1911 г. Альфред Норт Уайтхед писал: «Цивилизация развивается, расширяя количество важных операций, которые мы можем осуществлять не задумываясь»[127].

Знаменитая обложка Сола Стейнберга для журнала The New Yorker (рис. 6) блистательно демонстрирует в пространственной форме, как интеллектуальный агент управляет собственным будущим. Непосредственное будущее исключительно тонко детализировано — в действительности мой мозг уже загрузил конкретные последовательности актов двигательного контроля для того, чтобы напечатать следующие слова. Если заглянуть немного вперед, деталей становится меньше: так, я планирую закончить этот раздел, перекусить, написать еще фрагмент и посмотреть, как Франция играет с Хорватией в Кубке мира. Еще дальше в будущем мои планы становятся более обширными, но и более расплывчатыми: вернуться из Парижа в Беркли в начале августа, прочитать курс аспирантам и закончить эту книгу. По мере движения индивида во времени будущее приближается к настоящему, и планы становятся более подробными, тогда как могут появиться и новые неопределенные планы на более отдаленное будущее. Планы ближайшего будущего становятся такими подробными, что исполняются напрямую системой управления движением.

В настоящее время у нас имеются лишь некоторые фрагменты этой общей картины для ИИ-систем. При наличии иерархии абстрактных действий, в том числе знания о том, как систематизировать каждое из абстрактных действий в подраздел, состоящий из конкретных действий, у нас есть алгоритмы, которые могут составить комплексные планы достижения поставленных целей. Это алгоритмы, способные выполнять абстрактные иерархические планы так, что у агента всегда имеется «готовое к исполнению» примитивное физическое действие, даже если будущие действия остаются абстрактными и пока невыполнимы.