Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Еще одно большое преимущество машинного обучения — это формализация и автоматизация такого типа проверки гипотез. Байесовская теория вероятности стала важной частью процесса познания. Мы можем математически описать некую случайную гипотезу, например о том, как изменения температуры океана влияют на ураганы, а потом вычислить, насколько вероятно, что такая гипотеза верна, на основании данных наблюдений. Машины теперь хорошо умеют проверять и оценивать верность гипотез на основании фактических данных, что оказывает влияние на все на свете — от медицинской диагностики до метеорологии. Когда мы изучаем маленьких детей, то видим, что они рассуждают подобным образом, и это отчасти объясняет, как им удается настолько быстро учиться.

Таким образом, компьютеры прекрасно умеют делать выводы из структурированных гипотез, особенно вероятностные выводы. Но действительно сложная проблема состоит в том, чтобы решить, какие гипотезы из всего их множества достойны того, чтобы их проверять. Даже дошкольники удивительно хорошо справляются с построением творческих, нестандартных гипотез. Они как-то сочетают рациональность и иррациональность, системность и случайность, и мы понятия не имеем, как они это делают. Мысли и действия маленьких детей часто выглядят бессмысленными, даже бредовыми — просто попробуйте как-нибудь поиграть в дочки-матери с трехлетними девочками. Именно поэтому психологи, например Пиаже, думали, что дети иррациональны и нелогичны. Но у них также есть сверхъестественная способность нацеливаться как раз на подходящие странные гипотезы; на самом деле они с этим справляются существенно лучше, чем взрослые.

Конечно, идея вычисления заключается как раз в том, что, как только у нас появляется полное детальное описание определенного процесса, мы можем запрограммировать его в компьютере. В конце концов, мы же знаем, что точно существуют физические системы, которые все это умеют. У большинства из нас есть опыт создания таких систем, и даже приятный опыт (по крайней мере, на ранних этапах). Мы называем эти системы детьми. Вычисление — все-таки лучшее и на самом деле единственное научное объяснение тому, как физический объект, которым является мозг, может действовать разумно. Но пока что нам почти ничего неизвестно о том, как устроен творческий процесс познания, который мы наблюдаем у детей. И пока мы этого не узнаем, самые большие и самые мощные компьютеры не сравнятся с маленькими и слабыми человечками.

Курица, которая играет в крестики-нолики

Кевин Славин

доцент кафедры медийных наук, основатель playful systems group, медиалаборатория массачусетского технологического института; соучредитель агентства everybody at once

Кто тут на самом деле рулит —
Куриный мозг или двоичный код?
Кто узнает, что я поставлю — крестик или нолик?

Слова из песни группы M Shanghai String Band

В 1980-х в нью-йоркском Чайна-тауне, на пересечении Мотт-стрит и Бауэри, огромная толпа собралась на ярмарке видеоигр. Больше всего людей, даже больше, чем около аппаратов Pacman и Galaga, сгрудилось у машины, которую больше нигде не найдешь, — у курицы, играющей в крестики-нолики.

Это была единственная частично органическая машина: внутри нее сидела живая курица. Насколько я могу судить, курица играла в крестики-нолики достаточно хорошо, наравне с людьми. Игрок-человек делал ход, нажимая на кнопки, а курица наступала на пустые клетки на полу внутри автомата, выполненном в виде подсвеченного поля для игры в крестики-нолики, на котором отображались ходы обоих игроков.

Много раз, прогуливая в старших классах тригонометрию, я стоял перед этой курицей и гадал, как работает игра. Никакого явного позитивного подкрепления (например, корма) не было, так что я решил, что здесь имеет место негативное подкрепление в виде электрического тока небольшой силы, пропускавшегося через «неправильные» клетки на полу и ведущего курицу к единственной точке, из которой она могла выйти на ничью.

Когда я думаю о мыслящих машинах, то вспоминаю эту курицу. Если бы на ярмарке в Чайна-тауне я увидел компьютер, который играет в крестики-нолики, то он не стал бы из-за него прогуливать школу, не говоря уже про Pacman. То, что даже самый слабый компьютер может разобраться с этой игрой, — факт общеизвестный и неудивительный. Вот почему всех так сильно заинтересовала курица.

Волшебство заключалось как раз в том, чтобы представить себе мыслящую курицу, — тогда это было почти то же, что в 2015 году представить мыслящую машину. Но если курица не думала об игре в крестики-нолики и все же могла успешно в нее играть, то почему мы говорим, что компьютер думает, когда играет?