Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

Рассмотрим диспетчерскую установку с искусственным интеллектом, имеющую дело с поездом, несущимся по рельсам. Впереди на путях находятся пять пожилых людей, которых поезд убьет, если поедет прямо. Если ИИ переведет поезд на другой путь, он убьет только одного молодого человека. Какой этический выбор должен сделать ИИ?

Победа над чемпионом мира по коротким нардам. 1979

«Как и большинство настольных игр, нарды – это облагороженная версия войны, – пишет эксперт по ИИ Даниэль Кревье. – Английское название этой игры, backgammon, происходит от валлийских слов bac („маленький“) и gamen: („война“)».

Никто точно не знает, где появилась эта древняя настольная игра, но существует она уже почти 5 тысяч лет. В ходе партии каждый из двух игроков командует маленькими «солдатами» – пятнадцатью шашками, которые перемещаются между двадцатью четырьмя треугольниками. Игроки ходят по очереди, а выбор ходов определяется броском двух игральных костей. Цель состоит в том, чтобы снять с доски все свои шашки.

В 1979 г. программа BKG 9.8 сыграла против действующего чемпиона мира по коротким нардам Луиджи Вильи. Вилья проиграл – и стал, вероятно, первым чемпионом мира по настольной игре, потерпевшим поражение от компьютерной программы. Считается, что BKG 9.8 удалось выиграть благодаря нескольким удачным броскам костей, однако для выбора наилучшего хода все равно требуются определенные навыки. В программе BKG 9.8 использовалась нечеткая логика, а также другие эффективные математические методы.

В 1992 г. исследователь из IBM Джеральд Тезауро написал программу TD-Gammon на основе искусственной нейросети. Программа освоила нарды на экспертном уровне, играя против самой себя: она изучала возможные варианты перемещения шашек и корректировала веса внутри нейросети. Поскольку обучение не требовало участия человека, TD-Gammon испытывала любопытные стратегии, которые люди прежде не рассматривали. В наше время существует несколько программ для игры в нарды, которые используют нейросети и предоставляют игрокам анализ ходов.

Поскольку в нардах присутствует элемент случайности (на исход партии влияют кости), область поиска дерева игры чрезвычайно широка; именно в это упирались первые попытки создать программу экспертного уровня. В случае с нейросетью начальные веса ходов случайны, и сеть совершенствует навыки путем обучения с подкреплением. Первая программа TD-Gammon использовала 40 скрытых узлов в нейросети и сыграла 300 тысяч тренировочных партий. В более поздних версиях число скрытых узлов выросло до 160, а количество тренировочных партий перевалило за миллион.

СМ. ТАКЖЕ Искусственные нейронные сети (1943), Обучение с подкреплением (1951), Нечеткая логика (1965), Шашки и искусственный интеллект (1994), Deep Blue обыгрывает чемпиона мира по шахматам (1997)

Обложка журналаScientific American, июнь 1980 г. В статье, опубликованной в этом номере, рассказывалось о программе BKG 9.8, которая обыграла в короткие нарды действующего чемпиона мира Луиджи Вилью. Вилья стал, вероятно, первым чемпионом мира по настольной игре, поверженным компьютерной программой.

Китайская комната. 1980

Может ли компьютер обладать сознанием? Под сильным искусственным интеллектом понимают сконфигурированные должным образом компьютерные ИИ-системы, способные по-настоящему думать, обладать разумом и сознанием. В то же время системы со слабым искусственным интеллектом могут только действовать так, будто они разумны и мыслят как люди. Одним из первых с критикой идеи сильного ИИ в компьютерах выступил философ Джон Сёрл (р. 1932), который в 1980 г. описал свой знаменитый мысленный эксперимент.

Представьте себе, что вы сидите в закрытой комнате. Вы получаете лист бумаги с китайскими иероглифами через щель в стене. Хотя вы не знаете китайского, вы можете обратиться к инструкциям, которые расскажут вам, как записать иероглифами нужные ответы. Опираясь на эти инструкции, вы рисуете иероглифы на листе бумаги и передаете ответ во внешний мир через щель. Человеку, находящемуся снаружи, может показаться, что вы прекрасно знаете китайский язык; однако вы всего лишь следуете правилам, а китайский текст на обоих листах выглядит для вас полной тарабарщиной.

Этот мысленный эксперимент показывает, что программа не может наделить компьютер разумом, сознанием или пониманием, даже если компьютер и программа кажутся нам вполне разумными. Впрочем, некоторые философы возражают: даже если вы не понимаете китайского, система, состоящая из вас, закрытой комнаты, инструкций и вашей способности следовать инструкциям, действительно понимает этот язык – и представляет собой некое внешнее по отношению к вам сознание, о котором вы не подозреваете.