The Worlds I See

Это было рождение совершенно новой парадигмы, как и первые годы двадцатого века для физики. Мне вспомнились истории, которые захватили мое воображение, когда я, будучи девочкой-подростком, мечтала о жизни физика в те пьянящие дни, пытаясь представить себе тайну и благоговение, которые, должно быть, испытывали те первые пионеры. Трудно было не позавидовать им, их взгляды на реальность изменились так радикально и так внезапно в результате пробуждения к тайнам квантового мира и релятивистского величия космоса. Они родились в нужное время и в нужном месте, чтобы получить один из самых захватывающих даров истории. Не кажется гиперболой мысль о том, что современное воплощение нейронных сетей - это эквивалент нашего поколения.

Однако уже тогда были причины признать, что будущее не будет чисто поэтическим. Одним из наиболее ярких предвестников перемен стала трансформация научных конференций, посвященных ИИ. На протяжении десятилетий они были скромными мероприятиями, в которых участвовали исключительно профессора, исследователи и студенты, не привлекая внимания СМИ и испытывая нехватку денег. Корпоративные спонсоры были редки, обычно ограничивались академическими издательствами вроде Springer и занимали лишь несколько длинных столов в углу выставочного зала. Но в последующие годы после AlexNet имена из самых вершин списка Fortune 500 превратили мероприятия в зрелища, каждое новое собрание все больше напоминало отраслевую выставку на Лас-Вегас-Стрип. Уже через несколько лет огромные стенды с логотипами, купающиеся в разноцветной подсветке, стали обычным явлением, а такие компании, как Google и Microsoft, устраивали экстравагантные вечеринки для аспирантов, рассматривающих варианты карьеры.

Голод охватил эту область, поскольку возникло желание добиться большего. Больше слоев, чтобы сделать нейронные сети глубже и мощнее. Больше кремния, чтобы ускорить процесс обучения и сделать возможным развертывание все более крупных сетей. И, конечно, больше данных. Больше изображений, больше видео, больше аудио, больше текста и всего остального, что сеть может научиться понимать. Больше всего.

Было интересно думать о возможностях, которые могут открыть эти новые организованные данные, но в то же время и страшно; в моей лаборатории мы уже убедились, что в материале всегда скрыто больше, чем мы думали. Это никогда не были просто изображения, или аудио, или текст - данные позволяли модели формировать представление о мире, а большие данные означали более мощные и нюансированные представления. Отношения, связи и идеи. Истины и неправды. Проницательность и предрассудки. Новое понимание, но и новые подводные камни. Революция глубокого обучения уже наступила, и никто из нас не был к ней готов.

Тем временем исследовательская программа нашей лаборатории проявляла собственную прожорливость: сколько бы мы ни достигли, каждая новая публикация, казалось, порождала десять последующих идей, которые кто-то, будь то постдок или аспирант первого года обучения, был готов подхватить и воплотить в жизнь. Именно это мне и нравилось, даже если часто это казалось чрезмерным.

Я подумал, что истинная ценность Полярной звезды как метафоры заключается не только в ее способности указывать путь, но и в том, что ее расстояние остается вечно бесконечным. К ней можно стремиться до изнеможения, она может стать объектом одержимости всей жизни, но так и не быть достигнутой. Это символ самой характерной черты ученого: любопытство настолько неугомонно, что навсегда отталкивает удовлетворение, как противоположные магниты. Звезда в ночи, мираж вдали, дорога без конца. Я понял, что именно таким для меня становится ИИ. ImageNet стал поворотным моментом, который, безусловно, стоит отпраздновать, но это был не конец пути. Скорее, это было начало еще более грандиозного путешествия. И помимо этого, я теперь был уверен, меня ждало больше, чем может вместить карьера и даже жизнь.

 

Получив в свое распоряжение пригодную для публикации демонстрацию нашей техники создания подписей к изображениям, мы с Андреем провели следующие несколько недель, совершенствуя наши методы и документируя результаты. Результат нашего гамбита оправдал все мои надежды: хотя предложения все еще оставались простыми и немногословными, они были точными и достаточно естественными в своей формулировке. Это действительно был, по словам Джереми Вулфа, алгоритм, который улавливал "суть" того, что видел.

Пришло время поделиться ею с миром. В конечном итоге это означало академическую аудиторию, и наша работа была принята к участию в конференции 2014 года по системам обработки нейронной информации, или NeurIPS, до которой оставалось несколько недель. Тем временем меня пригласили выступить с лекцией на семинаре IBM в Аламеде, на другом берегу залива, и я не смог удержаться, чтобы не рассказать о том, чего мы добились раньше срока.