Архитекторы интеллекта. Вся правда об искусственном интеллекте от его создателей

Дж. Т.: На мой взгляд, в Кремниевой долине работают в основном сторонники доктрины о свободе воли, которые считают, что главное – двигать вперед прогресс, а люди как-нибудь сами разберутся, что со всем этим делать. Честно говоря, мне бы хотелось, чтобы правительство и технологическая отрасль перестали враждебно относиться друг к другу и увидели больше общих целей.

Я оптимист и считаю, что представители разных групп могут и должны больше работать вместе и что исследователи ИИ могут стать инициаторами такого рода сотрудничества.

М. Ф.: Прокомментируйте проблему выравнивания, о которой писал Ник Бостром. С одной стороны, нам еще рано говорить о появлении суперинтеллекта, но может получиться так, что для поиска возможностей контроля таких систем потребуется еще больше времени. И именно поэтому решение проблемы выравнивания нужно искать уже сейчас.

Дж. Т.: На мой взгляд, задумываться о таких вещах можно и даже нужно. Просто не в первую очередь. Хотя бы потому, что существуют намного более актуальные экзистенциальные опасности. Проблему выравнивания ценностей трудно решить, потому что мы толком не знаем, что такое ценности. Те, кто занимается вычислительной когнитивистикой, пытаются понять, что же такое ценности, и выполнить их инженерный анализ. Но моральные принципы невозможно описать с инженерной точки зрения.

Мне кажется, что первым делом нужно лучше понять самих себя, и только потом можно будет переходить к технологической стороне. Нужно осознать, каким образом у людей появляется представление об их ценностях и моральных принципах. Этот вопрос актуален в когнитивистике, и по мере роста машинного интеллекта поиск ответа на него станет общеобязательным.

Кроме того, с помощью ИИ-технологий правительства и компании манипулируют людьми. В сравнении с этой проблемой выравнивание ценностей относится к фундаментальным исследовательским вопросам, которые нам вряд ли придется решать в реальности.

М. Ф.: Удастся ли добиться того, чтобы преимущества ИИ перевесили его отрицательные стороны?

Дж. Т.: По натуре я оптимист, поэтому мне сразу хочется ответить «да», но, к сожалению, этого нельзя гарантировать. Любые технологии, будь то ИИ, смартфоны или социальные сети, преобразуют нашу жизнь, меняют способ взаимодействия друг с другом и природу человеческого опыта. Я не уверен, что все это перемены к лучшему. Трудно с оптимизмом смотреть на семьи, в которых все проводят время со своими телефонами, или на то плохое, что принесли в нашу жизнь социальные сети.

Мы должны осознать и изучить все способы, которыми технологии делают с нами безумные вещи! Они проникают в наш мозг, меняют нашу систему ценностей, систему вознаграждений, систему социального взаимодействия. Я думаю, что нужно более активно исследовать эти явления.

Мне бы хотелось, чтобы сообщество серьезно озаботилось этой проблемой. Я оптимистично думаю, что в долгосрочной перспективе мы создадим ИИ, который, в конечном счете, принесет пользу всем. Но это возможно только при условии, что мы уже сейчас направим наши усилия в нужную сторону.

Орен Этциони

“Большинство людей, не задумываясь, ответит на вопрос «пройдет ли слон в дверной проем?», машина же впадет в ступор. То, что легко для одного, трудно для другого, и наоборот. Я называю это парадоксом ИИ".

Генеральный директор AI2

Орен Этциони курирует проект Mosaic. Является членом AAAI и успешным предпринимателем, стартапы которого приобретены такими гигантами, как eBay и Microsoft. Участвовал в реализации механизмов поиска, онлайн-шопинга, машинного чтения, извлечения открытой информации и семантического поиска академической литературы. Степень бакалавра computer science получил в Гарварде, а докторскую степень – в Университете Карнеги – Меллона. Был профессором в Университете штата Вашингтон. Стал соавтором более 100 технических документов.

Мартин Форд: Расскажите о проекте Mosaic и других проектах, над которыми вы работаете в AI2.