The Worlds I See

Однако наблюдение за тем, как такие компании, как Yahoo и Google, получают мучительные уроки в режиме реального времени, в то время как весь мир наблюдает и осуждает их, напомнило нам, что недостаточно просто инвестировать в следующее поколение и надеяться на лучшее. Ольга, получившая предложение стать профессором в Принстоне и принявшая его, занялась расширением программы исследований своей новой лаборатории, перейдя от механики машинного восприятия к более широкому вопросу справедливости в вычислениях, включая особый акцент на "дебиасинге": формальной, математически строгой попытке количественно оценить и нейтрализовать предвзятость, скрывающуюся в наших данных. С такими людьми, как Ольга, которые предлагают такие социально сознательные идеи, моя надежда на будущее начала расти.

Я всем сердцем верил в ценность этой технологии, начиная с ее потенциала пролить новый свет на тайны интеллекта и заканчивая реальной пользой, которую я видел в работе с Арни в больницах. Но цена даже минутной самоуверенности стремительно росла. Хуже того, эту цену заплатят другие, вероятно, самые уязвимые из нас. ИИ вышел из лаборатории и в значительной степени вышел из-под нашего контроля; хотя вихрь новых идей, новых лиц и новых институтов был бодрящим, было так же много новых опасений. Даже обещание коммерческих инвестиций в эту сферу, казавшееся находкой для таких исследователей, как мы, наводняло все вокруг с такой силой, что это больше походило на дерзость, зловещую и чреватую, чем на удачу.

Слова продолжали терпеть неудачу. "Феномен" был слишком пассивным. "Разрушение" - слишком нагло. "Революция" - слишком самодовольно. Современный ИИ представал перед нами как головоломка, кусочки которой имели острые края. Тем не менее, как ни тревожно было это осознавать, растущее чувство опасности было именно тем, что ученые должны ценить. Оно разжигало во мне другую форму любопытства, некомфортную, но убедительную. Мне просто нужен был способ увидеть это вблизи.

 

"Пока результаты обнадеживают. В наших тестах поиск нейронной архитектуры позволил создать классификаторы, обученные на ImageNet, которые превзошли свои человеческие аналоги - причем все самостоятельно".

Шел 2018 год, и я сидел за дальним концом длинного конференц-стола в Google Brain, одной из самых известных исследовательских организаций компании в области ИИ, расположенной в самом сердце штаб-квартиры - Googleplex в Маунтин-Вью, штат Калифорния. Речь шла об особенно захватывающей разработке, которая уже несколько месяцев вызывала шум по всему кампусу: "поиск нейронной архитектуры", попытка автоматизировать оптимизацию архитектуры нейронной сети.

Поведение таких моделей определяется целым рядом параметров, определяющих компромисс между скоростью и точностью, памятью и эффективностью, а также другими аспектами. Настроить один или два параметра по отдельности достаточно просто, но найти способ сбалансировать все эти параметры - задача, которая часто не под силу человеку, и даже эксперты с трудом справляются с тем, чтобы настроить все как надо. Удобство, которое обеспечит автоматизация, - цель, безусловно, достойная, и, кроме того, она может сделать ИИ более доступным для растущего сообщества нетехнических пользователей, которые смогут использовать его для построения собственных моделей без руководства экспертов. Кроме того, было что-то поэтическое в том, что модели машинного обучения разрабатывают модели машинного обучения и быстро становятся лучше нас.

Но за всю эту мощь приходилось платить. Обучение даже одной модели все еще было дорогостоящим для всех лабораторий и компаний, кроме самых финансируемых, а поиск нейронной архитектуры предполагал обучение тысяч моделей. Это была впечатляющая инновация, но очень дорогая в вычислительном плане. Этот вопрос стал одним из основных предметов обсуждения на встрече.

"На каком оборудовании это работает?" - спросил один из исследователей.

"В любой момент времени мы тестируем сто различных конфигураций, каждая из которых обучает восемь моделей с немного отличающимися характеристиками . В общей сложности одновременно обучается восемьсот моделей, для каждой из которых выделяется свой графический процессор".

"Итак, мы рассматриваем около..."

"Восемьсот, да".