Власть роботов. Как подготовиться к неизбежному

Члены городского совета отказали демонстрантам в разрешении, потому что они поддерживали насилие.

Кто поддерживал насилие?

Замена «боялись» на «поддерживали» полностью меняет смысл местоимения «они». На этот вопрос невозможно ответить правильно, просто извлекая из предложения информацию. Нужно в какой-то мере понимать этот мир, а именно что члены городского совета предпочитают спокойствие и порядок на улицах, а разъяренные демонстранты могут быть склонны к насилию.

Вот еще несколько примеров. Альтернативное слово, меняющее смысл предложения, приводится в квадратных скобках.

Кубок не помещается в коричневый чемодан, потому что он слишком [большой/маленький].

Какой предмет слишком [большой/маленький]?

Школьный автобус подал предупреждающий сигнал грузовику, потому что он ехал очень [медленно/быстро].

Кто ехал очень [медленно/быстро]?

Том бросил школьный портфель Рэю, когда он оказался [вверху/внизу] лестницы.

Кто оказался [вверху/внизу] лестницы?

Отвечая на серию подобных вопросов, любой нормальный грамотный взрослый, скорее всего, покажет результат, близкий к идеальному. Поэтому порог прохождения этого теста должен быть очень высоким. Однако в случае схем Винограда самые лучшие компьютерные алгоритмы показывают результаты, лишь минимально превосходящие простое угадывание.

Одна из самых интересных программ по наделению машинного интеллекта здравым смыслом осуществляется в Институте искусственного интеллекта Пола Аллена в Сиэтле, штат Вашингтон. Генеральный директор института Орен Эциони сказал мне, что это начинание — проект Mosaic — родилось отчасти в результате попыток института реализовать мечту сооснователя Microsoft Пола Аллена об ИИ-системе, способной прочитать главу из учебника по естествознанию и ответить на приведенные в конце вопросы. По словам Эциони, несмотря на «шедевральные» усилия его команды по достижению этой цели результаты были неблестящими — обычно система получала балл, соответствующий оценке «два». Одним из камней преткновения оказалась способность проявлять здравый смысл и логику, отвечая на вопросы. ИИ-системе относительно легко изучить фактический материал, например о фотосинтезе из учебника биологии. Реальная трудность возникает, говорит Эциони, когда попадается вопрос наподобие: «Если растение в горшке, находящееся в темной комнате, переставить ближе к окну, как станут расти его листья — быстрее, медленнее или с прежней скоростью?»[190]. Чтобы ответить на него, нужно понимать, что вблизи окна света больше, и уметь сделать логический вывод, что это позволит растению расти быстрее.

Первая цель проекта Mosaic — составить стандартный набор контрольных показателей для оценки способности машин проявлять здравый смысл. Когда она будет выполнена, институт планирует применить различные методы, в том числе «краудсорсинг, обработку естественного языка, машинное обучение и машинное зрение»[191], для создания встроенного знания мира, необходимого для наделения ИИ-системы здравым смыслом.

Если Эциони и члены его команды верят в гибридный подход, объединяющий разнообразные методы, то у непоколебимых приверженцев глубокого обучения эта мысль, как и следовало ожидать, не вызывает энтузиазма. Я спросил Йошуа Бенджио, считает ли он важными такие начинания, как проект Mosaic, или полагает, что мышление на основе здравого смысла каким-то образом может возникнуть само собой в процессе обучения. В ответ он твердо заявил, что верит в подход на основе глубокого обучения: «Я убежден, что здравый смысл появится в ходе процесса обучения. Он возникает не потому, что кто-то всовывает вам в голову крупицы знания, это совершенно не так работает у людей»[192]. Ян Лекун также убежден, что путь к здравому смыслу лежит через обучение. По его словам, команда исследователей ИИ из Facebook работает над тем, чтобы «заставить машины учиться путем наблюдения за различными источниками данных — учиться тому, как устроен мир»: «Мы создаем модель мира, так что, возможно, появится та или иная форма здравого смысла и эта модель станет своего рода предсказательной, помогающей машине учиться так же, как учатся люди»[193].

Радует, что оба подхода энергично применяют некоторые из ярчайших исследователей ИИ. Прорыв, ведущий к появлению ИИ-системы, способной стабильно мыслить на основе здравого смысла, как это считается само собой разумеющимся у людей, станет колоссальным шагом вперед — независимо от того, возникнет эта способность естественным образом или будет сконструирована.

Неконтролируемое обучение