Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

Автономный пылесос Roomba, появившийся на рынке в 2002 г., оснащен различными датчиками, которые позволяют ему находить грязь на полу, избегать падения с лестниц и менять направление при столкновении с предметами. Модели 900-й серии также снабжались камерой, благодаря которой навигационная программа пылесоса обеспечивала эффективный охват всей площади пола. Когда батарея Roomba разряжается, пылесос сам ищет зарядное устройство с помощью инфракрасных маяков. Акустические датчики загрязнений помогают ему находить определенные виды пятен, требующие особого внимания. В прошлом Roomba полагался на движение по спирали, случайные траектории и другие методы охвата пола.

Значительная часть программ для Roomba написана на варианте языка Лисп. В наше время хакеры модифицируют устройство с помощью открытого интерфейса (Roomba Open Interface, ROI) с разными целями, например чтобы превратить Roomba в художника или заставить его вести наблюдение.

Roomba – представитель широкого класса бытовых роботов, помогающих людям по хозяйству. Конечно, с совершенствованием этих устройств возникнут проблемы конфиденциальности. Уже сегодня обсуждается вопрос о том, что iRobot может узнать все о планировке домов пользователей и поделиться этой информацией с любыми компаниями, заинтересованными в данных о жилье и образе жизни потенциальных клиентов. Не исключено, что в будущем таких роботов даже будут допрашивать полицейские, расследующие преступления.

СМ. ТАКЖЕ Робот Шейки (1966), Беспилотные автомобили (1984), ASIMO и друзья (2000), Искусственный интеллект на Марсе (2015)

Иногда любители «взламывают» роботы-пылесосы, чтобы изменить их функциональность: например, заставить их составлять карты комнат, рисовать спирографические узоры, сражаться друг с другом, вести наблюдение с помощью камер и т. д.

Максимизатор скрепок. 2003

Даже если мы будем ставить перед высокоинтеллектуальными и функциональными ИИ-системами только полезные цели, теоретически это может привести к опасным последствиям. Один из примеров в 2003 г. описал философ и футуролог Ник Бостром: это жуткая история о максимизаторе скрепок. Представьте себе будущее, в котором ИИ-система управляет фабриками по производству скрепок. ИИ получает задание производить как можно больше скрепок. Можно предположить, что, если не задать в системе все необходимые ограничения, события будут развиваться так: преследуя эту цель, ИИ сначала постарается максимально эффективно управлять фабриками, а затем станет выделять все больше ресурсов на эту задачу, пока изготовлением скрепок не начнут заниматься целые регионы планеты. В конце концов на это будут направлены все доступные на Земле ресурсы, а еще через некоторое время и вся подходящая материя в Солнечной системе будет превращена в скрепки.

Этот сценарий может показаться неправдоподобным, однако он призван привлечь внимание к серьезному моменту: у ИИ может не быть понятных нам «человеческих» мотивов. Даже безобидные цели могут оказаться опасными, если ИИ получит возможность эволюционировать и создавать новые усовершенствованные машины (см. главу «Интеллектуальный взрыв»). Кто даст гарантии, что цели ИИ и встроенные в него математические функции выгоды и вознаграждения останутся стабильными и понятными на протяжении десятилетий и столетий? Как добиться того, чтобы нам всегда были доступны «выключатели»? Что, если программы и схемы вознаграждения заставят ИИ потерять интерес к внешнему миру и направить всю энергию на максимизацию сигнала вознаграждения, – подобно тому, как человек, принимая наркотики, выпадает из социума? Что делать, если разные страны и политические режимы будут использовать в своих ИИ-системах разные функции вознаграждения?

Авторство другого известного примера, так называемой катастрофы гипотезы Римана, приписывают Марвину Мински. Представим себе сверхразумную ИИ-систему, созданную с целью подтвердить или опровергнуть эту сложную и важную математическую гипотезу. Не исключено, что такая система будет направлять все больше вычислительных ресурсов и энергии на выполнение этой задачи, захватывая и создавая все более совершенные системы в ущерб интересам человечества.

СМ. ТАКЖЕ «Дарвин среди машин» (1863), Интеллектуальный взрыв (1965), Герметичный ящик для искусственного интеллекта (1993)

Даже если мы поставим перед ИИ благую цель, такую как эффективное производство скрепок, что произойдет, если система решит превратить всю планету в гигантский скрепочный завод?

Quackle выигрывает в скребл. 2006