Газета Завтра 6 (1210 2017)

Например, такой полуанекдотичный случай произошёл недавно с известным интернет-магазином Amazon.com, который решил выйти на новый для него уровень, объявив об открытии сервиса "мгновенной доставки", когда заказанные клиентом товары доставляются день-в-день. Таким образом компания пыталась конкурировать с разветвлённой сетью магазинов шаговой доступности в США, которую там называют "форматом 7/11" — они доступны семь дней в неделю и 11 часов в сутки. Понятное дело, задача с помощью почты обеспечить оперативную доставку товаров в режиме "не сильно медленнее, чем сходить в магазин" оказалась не столь тривиальной — в итоге просчёт всех факторов доверили нейросети. Нейросеть взяла "большие данные" — и построила карту того, где она считает возможной доставку день-в-день, а где это начинание по каким-то причинам будет или убыточным или невозможным — например, ожидаемо из этой системы выпали удалённые и малонаселённые районы США.

В итоге карту этого сервиса утвердили и опубликовали на сайте компании. А потом ушлые журналисты подметили, что Amazon почему-то исключила из районов срочной доставки негритянские кварталы — например, в Бостоне доставка оказалась доступной везде, кроме центра города, где был компактный район проживания чернокожего населения. Мотивы такого решения нейросети, в общем-то, очевидны: в негритянских кварталах высок уровень уличной преступности, много людей сидят на государственных пособиях, велик процент безработных и нищих. В общем — не лучшее место для такого сервиса, как срочная доставка. Но, понятное дело, публичная реакция была иной: "Amazon не хочет обслуживать чернокожих! Ку-клукс-клан возвращается!". В конце концов нейросеть отодвинули от составления карты и внесли негритянские кварталы в список доступных для сервиса. Хотя осадочек и остался…

"ЗАВТРА". А как вообще можно оценить степень разумности нейросетей? Они обладают неким внутренним сознанием и целеполаганием?

Антон БАЛАКИРЕВ. Безусловно, целеполагание у нейросетей есть. Любой процесс обучения нейросети и результаты её работы оцениваются исходя из той задачи, что вкладывалась в неё создателями. Другой вопрос, что разумность, как уже было сказано, не стоит путать с "сознанием" или с "интеллектом" — это близкие, но не эквивалентные понятия.

Кстати, наглядно это демонстрируется и текущими успехами нейросетей в деле соперничества с человеком в различных интеллектуальных играх. По состоянию на конец 2016-го года нейросети уже обыгрывают людей во всех популярных интеллектуальных играх — шахматах, шашках, нардах, реверси. Последним бастионом в череде таких игр была древняя китайская игра го, но и она пала под натиском нейросетей: в 2016 году компьютерная нейросеть "Альфа Го" выиграла матч против чемпиона мира, корейца Ли Седоля со счётом 4:1. По утверждению создателей "Альфа Го", они и сами не ожидали такого разгромного счёта — в их планы входило лишь продолжение обучения своего детища в рамках матча с Седолем, а нейросеть взяла и выиграла поединок. Это, кстати, хорошая иллюстрация к вопросу о "Скайнете": нынешние нейросети представляют собой "чёрный ящик", действия которого можно предполагать и прогнозировать лишь в общих чертах. Впрочем, это и есть суть творческого и изобретательского подхода, ведь никто не ожидал от Архимеда выкрика "Эврика!", когда он решил принять ванну в родных Сиракузах.

Интересна "Альфа Го" и как пример успеха в сочетании описанных ранее нисходящего и восходящего подходов: против 65 миллиардов нейронов Ли Седоля играли всего чуть более двух тысяч процессоров "Альфа Го", но современные алгоритмы обучения нейросетей сделали из них победителя чемпиона мира в одной из самых многовариантных игр, созданных человечеством.

Но интересно тут другое. Последним "твёрдым орешком", который никак не могут взломать пока нейросети, является… спортивный покер, одна из самых популярных в мире карточных игр. Проблема нейросети в случае покера оказывается не в том, чтобы оценить все варианты сдачи карт, а в большой неопределённости возможных исходов — в отличие от шахмат или го, в покере результирующие комбинации карт определяются при вскрытии закрытых карт, а большая часть решений и ставок производится при полной неясности позиции соперника. И вот тут-то и оказывается, что нейросеть хоть и разумна, но не может правильно оценивать блеф или повышение ставок своим соперником, пасуя перед психологией и перед искусством покерных игроков достигать выигрышного результата даже при откровенно слабой раздаче. Так что можно сказать, что нейросети разумны, но отнюдь не обладают человеческим сознанием.

"ЗАВТРА". А чем грозит человечеству повсеместное внедрение нейросетей?