Совместимость. Как контролировать искусственный интеллект

В образовательной сфере обещание создания интеллектуальных преподавательских систем давалось еще в 1960-х гг.[94], но до реального прогресса было еще очень далеко. Главными причинами оказались недостатки контента и доступа: большинство систем обучения не понимают содержание того, чему призваны учить, и не могут поддерживать двустороннюю коммуникацию с учениками посредством речи или текста. (Представляю, как я преподаю теорию струн, которую не понимаю, на лаосском языке, которым не владею.) Недавний прогресс в распознавании речи означает, что автоматизированные преподаватели могут, наконец, общаться с учениками, пока что не владеющими грамотой в полной мере. Более того, технология вероятностного вывода теперь умеет следить за тем, что учащиеся знают и чего не знают[95], и оптимизировать предоставление инструкций для максимально эффективного обучения. Конкурс Global Learning XPRIZE, стартовавший в 2014 г., предложил $15 млн за создание «общедоступного масштабируемого программного обеспечения, которое позволит детям в развивающихся странах самостоятельно обучиться основам чтения, письма и счета за 15 месяцев». Результаты победителей, Kitkit School и Onebillion, позволяют сделать вывод, что эта цель по большей части достигнута.

В сфере личных финансов системы будут отслеживать инвестиции, доходы, обязательные и необязательные расходы, долги, процентные выплаты, сбережения на непредвиденные обстоятельства и т. д. во многом так же, как финансовые аналитики следят за деньгами и перспективами компаний. Интеграция с агентом, обслуживающим повседневную жизнь, обеспечит все более тонкое и детальное понимание, возможно, даже позволит выдавать детям карманные деньги за вычетом штрафов за скверное поведение. Каждый может рассчитывать на получение качественных ежедневных финансовых консультаций, прежде являвшихся прерогативой сверхбогатых.

Если ваша внутренняя «сигнализация», сообщающая о нарушении конфиденциальности, не сработала при чтении предыдущего абзаца, значит, вы не в курсе последних событий. Тема конфиденциальности, впрочем, имеет много уровней. Во-первых, может ли персональный помощник быть действительно полезным, если ничего о вас не знает? Скорее всего, нет. Во-вторых, будет ли он полезным, если не сможет собирать информацию от множества пользователей, чтобы больше узнать о людях в целом и о людях, похожих на вас? Скорее всего, нет. Итак, следует ли из этих двух обстоятельств, что мы должны отказаться от права на конфиденциальность, чтобы пользоваться преимуществами ИИ в быту? Нет. Дело в том, что обучающиеся алгоритмы могут работать с зашифрованными данными, используя методы конфиденциальных вычислений, и обеспечить пользователей возможностью сбора данных без какого-либо ущерба для конфиденциальности[96]. Станут ли поставщики программного обеспечения использовать технологии обеспечения конфиденциальности добровольно, без требований со стороны закона? Поживем — увидим. Представляется, однако, неизбежным, что пользователи будут доверять персональному помощнику, только если его главнейшую обязанность составит служение пользователю, а не корпорации, которая его создала.

«Умные дома» и домашние роботы

Концепция «умного дома» рассматривается уже несколько десятилетий. В 1966 г. Джеймс Сазерленд, инженер фирмы Westinghouse, начал собирать ненужные компьютерные комплектующие, чтобы сделать ECHO, первый контроллер умного дома[97]. К сожалению, ECHO весил 360 кг, потреблял 3,5 кВт и управлял лишь тремя цифровыми часами и телевизионной антенной. Последующие системы требовали от пользователей овладеть головоломным интерфейсом управления. Неудивительно, что они не прижились.

С 1990-х гг. было предпринято несколько амбициозных попыток разработать дома, которые управляли бы собой сами при минимальном участии человека, используя машинное обучение, чтобы подстроиться под образ жизни обитателей. Для реализации экспериментов в домах должны были жить реальные люди. К сожалению, частота ошибочных решений сделала эти системы хуже, чем просто бесполезными, — качество жизни обитателей не только не повышалось, но ухудшалось. Например, пользователи проекта 2003 г. MavHome[98] Вашингтонского университета часто были вынуждены сидеть в темноте, если их гости задерживались дольше обычного для хозяев времени отхода ко сну[99]. Как и в случае с интеллектуальным персональным помощником, подобные провальные результаты проистекали из неполного доступа к информации о занятиях обитателей и неспособности понимать и отслеживать происходящее в доме.