The Worlds I See

Я гордился этой работой, но впереди меня ждал долгий путь. Всего через пару месяцев после выхода обзора Nature, в декабре, журнал The Lancet опубликовал своеобразное опровержение под названием "Этические проблемы использования окружающего интеллекта в здравоохранении". Это была откровенная и тщательно аргументированная статья, в которой не было никаких штампов и предлагалось честное, но строгое рассмотрение последствий нашей работы. По словам авторов, потенциал окружающего интеллекта для повышения качества оказания медицинской помощи был сопряжен со "спектром этических проблем", многие из которых связаны с масштабным сбором данных, новыми проблемами конфиденциальности и, с более философской точки зрения, с природой информированного согласия в среде таких иммерсивных, децентрализованных технологий мониторинга. Хотя читать критику собственной работы всегда нелегко, эта статья была именно тем видом этического дискурса, который нужен ИИ, и я со многим в ней согласился.

Ambient intelligence, скорее всего, всегда будет основой исследований моей лаборатории, и достаточно взглянуть на моих родителей, чтобы вспомнить, почему я считаю эту работу такой важной. Именно поэтому даже сейчас я посвящаю определенную часть каждого дня тому, чтобы быть в курсе последних экспериментов, испытаний и изменений в законодательстве. Но когда я размышляю о том, как быстро развивалась наша область в последние несколько лет - прорывы в распознавании объектов, создание человекоподобных описаний фотографий и даже видео, - мне становится все труднее игнорировать общую мысль: при всей изощренности этих методов они, по сути, сводятся к пассивному наблюдению. В той или иной форме каждый из них представляет собой экземпляр алгоритма, рассказывающего нам о том, что он видит. Наши модели научились наблюдать, иногда очень подробно и с поразительной точностью, но не более того. Конечно, думаю я в последнее время, что-то должно лежать за пределами этого.

 

"Эй, помнишь, о чем ты спросил меня пару лет назад в первый день занятий? Мне интересно, остался ли он с тобой".

Кофе-брейк закончился, и мы со студентом возвращались в лабораторию, держа в руках бумажные стаканчики с крышками.

"Вообще-то да", - улыбнувшись, напомнил он. "Я спросил вас, какое отношение этика имеет к этим вещам".

"Ну?" Я улыбнулся в ответ. "Думаете, вы нашли ответ?"

Он вздохнул, глядя на небо, краски которого потускнели, когда полдень сменился ранним вечером.

"Честно? Не совсем. И я определенно думала об этом. Как я мог не думать? В последнее время об этом говорят во всех новостях. Я даже ходила на занятия к профессору Райху".

Он имел в виду курс "Компьютеры, этика и государственная политика", созданный компьютерщиком Мехраном Сахами, ученым-политологом Джереми Вайнштейном и Робом Райхом, политологом и этиком, который до сих пор является одним из основателей HAI. Я кивнул.

"Я знаю, что все это важно на бумаге, наверное". Он сделал глоток кофе. "Но я не знаю. Послушай, Фей-Фей, мой робот до сих пор не может вытащить кусок хлеба из тостера. Работа сама по себе достаточно утомительна, понимаешь? И такое ощущение, что все публикуются без остановки. Я уже живу в страхе перед следующей конференцией и ее сроками публикации! Сколько же мозгов я должен тратить на этику того, что все еще кажется таким примитивным?"

Это был справедливый вопрос. Несмотря на невероятный прогресс ИИ за последнее десятилетие, очень многое в этой области все еще находится в зачаточном состоянии. В частности, робототехника - печально известная сложная технология, которая продолжает постепенно прогрессировать даже в эпоху повсеместного распространения глубокого обучения. В такие моменты, как этот, человекоориентированный ИИ может оказаться непростой задачей.

"Знаете, - начал я, - не так давно я был студентом. В то время отличить кошку от собаки было еще почти научной фантастикой. Затем глубокое обучение изменило все в одночасье, и наши алгоритмы стали использоваться так, что мы думали, что до этого еще десятилетия. Только подумайте, как много мы сейчас говорим о распознавании лиц. Журналисты, политики, активисты... у всех внезапно появились вопросы - и хорошие вопросы! Ведет ли все это к усилению слежки? К более предвзятым алгоритмам? Может быть, даже к оружию ИИ? И все это подкралось к нам так быстро".

Мы дошли до лаборатории. Я пронесла свой пропуск по считывающему устройству, и мы вошли в двойные двери.

"Я хочу сказать, - заключил я, - что все может измениться гораздо быстрее, чем вы думаете".

Я знал, что не убедил его. Не совсем. Но при всех своих опасениях он был достаточно заинтересован, чтобы продолжать слушать. Это было начало.