Создатели искусственного гения. О бунтарях, которые наделили интеллектом Google, Facebook и весь мир

Лаборатория Google Brain ранее уже разрабатывала методику «векторного представления слов»¹⁹⁹. Нейронная сеть использовалась для построения математической карты английского языка путем анализа обширной коллекции текстов – журнальных статей, статей из Википедии, книжного самиздата – и поиска взаимосвязей связей между всеми словами языка. Это была карта, которую невозможно визуализировать. Она была не двумерная, как дорожная карта, и не трехмерная, как видеоигры. Она имела тысячи измерений; ничего подобного вы никогда не видели и не могли увидеть. На этой карте слово «Гарвард» было близко к словам «университет», «Плющ» и «Бостон», хотя лингвистически эти слова не были связаны. Карта придавала каждому слову математическое значение, которое определяло его место в языке. Это называлось «вектор». Вектор для «Гарварда» был очень похож на вектор для «Йеля», но они не были идентичны. «Йель» был близок к «университету» и к «Плющу», но не к «Бостону». Система автоматического перевода Суцкевера стала продолжением этой идеи. Используя метод долгой кратковременной памяти (LSTM), разработанный Юргеном Шмидхубером и его студентами в Швейцарии, Суцкевер вводил в нейронную сеть множество английских текстов вместе с их французскими переводами. Анализируя как исходный текст, так и перевод, эта нейронная сеть училась строить вектор для английской фразы, а затем сопоставлять его с французской фразой, имеющей сходный вектор. Даже человек, не знающий французского, мог видеть в этом силу математики. Вектор фразы «Мэри восхищается Джоном»²⁰⁰ был очень близок к векторам «Мэри влюблена в Джона» и «Мэри уважает Джона» – и сильно отличался от вектора «Джон восхищается Мэри». Вектор фразы «Она дала мне карточку в саду»²⁰¹ соответствовал векторам «Мне карточку дала она в саду» и «В саду дала мне карточку она». К концу года система перевода, созданная Суцкевером и его сотрудниками, превзошла по эффективности²⁰² любую другую технологию перевода – по крайней мере, в отношении той небольшой коллекции английских и французских переводов, на которой они тестировались.

В декабре 2014 года, опять же на конференции NIPS, но на этот раз в Монреале, Суцкевер представил доклад²⁰³ с описанием своей работы перед полным залом исследователей со всего мира. Сила этой системы, говорил он аудитории²⁰⁴, в ее простоте. «Мы используем минимум инноваций для достижения максимальных результатов»²⁰⁵, – сказал он, и по залу прокатилась волна аплодисментов, заставшая врасплох даже его. Сила нейронной сети, объяснял он²⁰⁶, заключается в том, что вы просто снабжаете ее исходными данными и она сама учится правильно вести себя. Хотя обучение этих математических систем иногда напоминает черную магию²⁰⁷, про этот проект такого не скажешь. Система принимает данные, некоторое время обучается²⁰⁸, а затем выдает результаты – минуя обычный процесс проб и ошибок. Но Суцкевер видел в этом прорыв не только в области машинного перевода²⁰⁹. Он видел в этом прорыв с точки зрения возможностей решения любых задач ИИ, связанных с последовательностями данных²¹⁰, от автоматического создания подписей к фотографиям до мгновенного составления резюме новостной статьи в одном-двух предложениях. Все, что человек может сделать за долю секунды, сказал он²¹¹, может сделать и нейронная сеть. Ее лишь нужно снабдить правильными данными²¹². «Реальный итог²¹³ заключается в том, что, если у вас есть достаточно большой набор исходных данных и достаточно большая нейронная сеть, – заявил он, – успех гарантирован».

Джефф Хинтон слушал это выступление из глубины зала. Когда Суцкевер сказал, что «успех гарантирован», он подумал: «Только Илье такое может сойти с рук». Кое-кто счел это заявление чересчур смелым, но остальным слова пришлись по душе. Так или иначе, Суцкевер мог сказать это, не вызывая слишком резкого отпора. Такой уж он был человек, и если в устах другого человека это могло бы выглядеть как жалкое хвастовство, то в его исполнении это звучало вполне реально. И он к тому же оказался прав – по крайней мере, в части машинного перевода. В течение следующих восемнадцати месяцев лаборатория Google Brain, взяв на вооружение этот прототип, превратила его в коммерческую систему, которая теперь используется миллионами людей. Примерно повторилась история трехлетней давности с прототипом распознавания речи Навдипа Джейтли. Но в данном случае лаборатория так изменила уравнение, что это подняло еще одну волну шумихи, которая, в конечном счете, лишь укрепила и усилила амбиции Ильи Суцкевера и многих других исследователей.

* * *