Совместимость. Как контролировать искусственный интеллект

Поэтому усовершенствования идут сплошным потоком. Пожалуй, самым важным является элементарная способность понимать контент — знать, что фраза «Джон в больнице» представляет собой не просто стимул отклика «надеюсь, ничего серьезного», но содержит актуальную информацию о том, что восьмилетний сын пользователя находится в соседней больнице, возможно, тяжело больной или раненый. Способность доступа к коммуникациям посредством электронной почты и текстовых сообщений, а также телефонных звонков и домашних разговоров (через «умные колонки» в доме) дала бы системам ИИ необходимую информацию, чтобы создать достаточно полную картину жизни пользователя, — вероятно, даже больше информации, чем мог бы получить дворецкий в аристократическом семействе XIX в. или секретарь-референт сегодняшнего генерального директора.

Сырой информации, разумеется, недостаточно. Чтобы помощник был по-настоящему полезным, ему также нужно повседневное знание о том, как устроен мир: что ребенок, лежащий в больнице, не находится одновременно дома, что госпитализация при сломанном запястье редко длится больше одного-двух дней, что в школе, где учится ребенок, должны узнать о его предстоящем отсутствии и т. д. Подобное знание позволяет помощнику постоянно отслеживать ситуации, которые он не наблюдает непосредственно, — навык, свойственный интеллектуальной системе.

Возможности, описанные в предыдущем абзаце, я уверен, достижимы в рамках имеющейся технологии вероятностного вывода^В, но это потребует очень серьезных усилий по созданию моделей всех типов событий и транзакций, составляющих нашу повседневную жизнь. До сих пор подобные проекты моделирования здравого смысла практически не осуществлялись (за исключением, пожалуй, засекреченных систем анализа разведывательных данных и военного планирования) из-за сопутствующих затрат и негарантированной отдачи. Теперь, однако, они легко привлекли бы сотни миллионов пользователей, поэтому инвестиционные риски снизились, а потенциальные прибыли значительно увеличились. Более того, доступ к большому числу пользователей позволяет интеллектуальному помощнику очень быстро учиться и заполнять пробелы в своем знании.

Итак, можно ожидать появления интеллектуальных помощников, которые за несколько пенсов в месяц помогут пользователям управлять все большим объемом повседневных дел: важные даты, путешествия, покупки, оплата счетов, домашние задания детей, отслеживание электронной почты и звонков, напоминания, планирование питания и — предел мечтаний! — поиск ключей. Эти навыки не будут разбросаны по множеству приложений. Они станут разными возможностями единого интегрированного агента, способного воспользоваться преимуществом синергии, в терминологии военных, общей оперативной обстановки.

Шаблон проектирования интеллектуального помощника предполагает исходное знание занятий людей, способность извлекать информацию из потоков сенсорных и текстовых данных и процесс обучения, адаптирующий помощника к конкретным обстоятельствам пользователя. Одна и та же общая схема может применяться еще по меньшей мере в трех важнейших областях: медицине, образовании и финансах. Для этих сфер система должна отслеживать состояние организма, ума и банковского счета пользователя (в широком смысле). Как и в случае помощника в повседневных делах, предоперационные расходы на создание необходимого знания общего характера в каждой из этих трех сфер распределяются между миллиардами пользователей.

В случае со здоровьем, например, все мы имеем примерно одинаковую физиологию, и подробное знание о ее функционировании уже закодировано в машиночитаемой форме[93]. Системы будут адаптироваться к вашим индивидуальным характеристикам и образу жизни, обеспечивая превентивными рекомендациями и ранним оповещением о проблемах.