Искусственный интеллект. Иллюстрированная история. От автоматов до нейросетей

В других экспериментах ИИ-системы неверно классифицировали знаки остановки как знаки ограничения скорости. В ряде работ уже анализировались потенциально опасные изменения, незаметные для человека, такие как подмена нескольких пикселей в изображении. В 2018 г. ученые из Калифорнийского университета в Беркли разработали состязательные примеры для систем распознавания речи. Иными словами, исследователи могли создать форму звуковой волны, почти идентичную реальной, и тем самым обмануть программу преобразования речи в текст, чтобы та превратила аудиосигнал в любую фразу по желанию исследователей.

Опыты с состязательным машинным обучением предполагают манипулирование тренировочными данными в ходе обучения ИИ. Хотя некоторые состязательные примеры можно нейтрализовать, потребовав от ИИ использовать сразу несколько систем классификаторов или запрограммировав их так, чтобы при обучении они не реагировали на состязательные примеры, во многих сферах применения ИИ сохраняются потенциальные риски.

СМ. ТАКЖЕ Смертоносные боевые роботы (1942), Машинное обучение (1959), Этика искусственного интеллекта (1976), Беспилотные автомобили (1984)

Исследования показали: если поместить круглые психоделические пятна в поле зрения ИИ-системы, можно обмануть ее и заставить «думать», что банан – это тостер. Это указывает на возможные риски при использовании ИИ в некоторых сферах.

Роботы собирают кубик Рубика. 2018

На протяжении многих лет специалисты по ИИ конструировали самых разных роботов, способных собирать кубик Рубика с помощью компьютерного зрения и физических манипуляций. Оригинальную головоломку в 1974 г. создал венгерский изобретатель Эрнё Рубик (р. 1944); к 1982 г. в Венгрии было продано 10 миллионов таких кубиков (как ни странно, это больше, чем население страны). К настоящему времени, согласно оценкам, в мире продано более 100 миллионов штук.

Кубик Рубика представляет собой конструкцию 3 × 3 × 3 из меньших кубиков, окрашенных таким образом, что каждая из шести граней большого куба имеет свой цвет. Двадцать шесть внешних кубиков снабжены шарнирами, чтобы их можно было вращать. Цель в том, чтобы «собрать» кубик, то есть вернуть его в первоначальное состояние, в котором каждая грань состоит из квадратов одного цвета. Всего существует 43 252 003 274 489 856 000 вариантов расположения маленьких кубиков, и лишь один соответствует исходной позиции. Если бы у вас имелось по одному кубику для каждой возможной раскладки, вы могли бы покрыть ими всю поверхность Земли (включая океаны) примерно в 250 слоев.

В 2010 г. было доказано, что из любой конфигурации кубик можно собрать не более чем за двадцать ходов. В 2018 г. проворный робот под названием Rubik’s Contraption преодолел полусекундный барьер, собрав кубик всего за 0,38 секунды (столько времени в сумме потребовалось на захват изображения, расчеты и физические манипуляции). В этом устройстве, созданном студентом-робототехником из Массачусетского технологического института Беном Кацем и разработчиком программного обеспечения Джаредом Ди Карло, использовались шесть двигателей Kollmorgen ServoDisc и так называемый двухфазный алгоритм Коцембы. (Для сравнения: в 2011 г. мировой рекорд среди роботов составлял 10,69 секунды.) В том же 2018 г. устройство, основанное на глубокой нейросети, научилось собирать кубик Рубика методом обучения с подкреплением без опоры на человеческие знания.

Существует вариация головоломки, которая никогда не появится на полках магазинов, – четырехмерная версия кубика Рубика, или тессеракт Рубика. Общее количество позиций тессеракта Рубика – головокружительная цифра: 1,76 × 10¹²⁰. Если бы вращающиеся грани тессеракта меняли положение каждую секунду с момента возникновения Вселенной, они и по сей день не успели бы продемонстрировать все возможные конфигурации.

СМ. ТАКЖЕ Ханойская башня (1883), Обучение с подкреплением (1951), Робот Шейки (1966), ASIMO и друзья (2000)

Патент США № 4378116, выданный Эрнё Рубику в 1983 г. на «пространственную логическую игрушку». На рисунке показано внутреннее устройство кубика.

Предсказатель смерти. 2019

В 2016 г. исследователи из Стэнфордского университета обучили ИИ-систему предсказывать, умрет ли человек в течение ближайших трех – двенадцати месяцев. Для данной книги этот результат важен как пример широкого спектра задач, которые в ближайшие годы будут решать ИИ и глубокое обучение.