Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Недетерминированные машины, или, еще лучше, недетерминированные сети детерминированных машин, — другой вопрос. У нас есть по крайней мере одно реальное доказательство тому, что такие сети могут научиться думать. И у нас есть все основания подозревать, что, будь они созданы в среде, где нет временных, энергетических и пространственных ограничений, в условиях которых работают наши мозги, это в определенный момент привело бы, как писал Ирвин Джон Гуд, к возникновению «машины, полагающей, что люди не могут мыслить».

До появления компьютеров природа пользовалась цифровой репрезентацией для хранения данных (строки кода в нуклеотидах) и исправления ошибок, но не для управления. Возможность вносить в инструкции изменения в один клик — полезная функция для эволюционных механизмов, работающих в масштабах поколений, — становится тяжким бременем для управления процессами в реальном мире, протекающими в масштабе дней или миллисекунд. Аналоговые процессы в этом случае значительно надежней.

Нам надо поменьше беспокоиться по поводу того, что нашими жизнями (и мыслями) управляют цифровые компьютеры, и побольше — о том, что это делают компьютеры аналоговые. Машины, которые действительно мыслят самостоятельно, а не просто делают все более умные вещи, скорее всего, будут аналоговыми, а не цифровыми. Впрочем, эти устройства могут представлять собой процессы более высокого уровня, работающие на субстрате из цифровых компонентов, так же как цифровые компьютеры когда-то были процессами, работающими на аналоговых компонентах.

Мы сейчас находимся в самом разгаре аналоговой революции, но по какой-то причине она не смеет назвать свое имя. Мы уже семь десятилетий обсуждаем, можно ли считать, что цифровые компьютеры мыслят, а в это время вокруг нас бурно разрастаются аналоговые процессы, чьи сложность и значение определяются не состоянием устройств или кода, на которых они основаны, а топологией выстроенных из них сетей и частотно-импульсными показателями соединений. Потоки битов рассматриваются как непрерывные функции, точно так же, как вакуумные трубки соотносятся с потоками электронов или как нейроны — с частотой импульсов в мозге.

Вывод: я знаю, что аналоговые компьютеры могут мыслить. Подозреваю, что цифровые компьютеры тоже в определенный момент начнут мыслить, но только посредством превращения в аналоговые компьютеры.

Настоящий искусственный интеллект будет достаточно разумен для того, чтобы не обнаруживать себя. Так что людям лучше иметь веру, а не доказательство.

Ценности искусственного интеллекта

Аббас Раза

Первый редактор 3QuarksDaily.com

Слухи о возможном порабощении или уничтожении человечества искусственным интеллектом чрезвычайно преувеличены, потому что предполагают наличие у ИИ телеологической автономности, подобной нашей. Не думаю, чтобы что-то, кроме дарвиновского процесса эволюции, могло дать такую автономность любому существу.

В целом есть два способа создать искусственный интеллект. Первый: не беспокоясь о том, как именно человеческий разум выполняет задачи, написать исчерпывающий набор программ, который тоже будет их выполнять — возможно, даже быстрее или точнее, — а затем собрать эти модули в единый интеллект. Таким подходом мы пользуемся сейчас и в некоторых областях преуспели. Например, компьютеры умеют играть в шахматы лучше, чем люди. Можно себе представить, что если приложить определенные усилия, то удастся запрограммировать компьютеры и для выполнения более творческих задач, вроде написания красивых (по нашему мнению) стихов или музыки посредством продуманных эвристических алгоритмов и встроенных в них знаний.

Но с таким подходом есть одна проблема: мы используем наши возможности в соответствии с ценностями и ограничениями, запрограммированными в нас миллиардами лет эволюции (плюс теми, что мы выучиваем в течение жизни), и некоторые из этих ценностей мы унаследовали от древнейших организмов, включая самую важную — потребность в выживании и воспроизводстве. Без этих ценностей нас бы здесь не было, как не было бы у нас таких тонко настроенных (для нашей среды) эмоций, которые позволяют нам не только выживать, но и сотрудничать с другими. Важность этой стороны нашего разума можно увидеть на примере людей, неспособных нормально функционировать в обществе из-за повреждения определенных эмоциональных центров мозга, несмотря на нормальное во всем остальном мышление.

Так какие ценности и эмоции будут у искусственного интеллекта? Можно просто запрограммировать их — в этом случае мы сами решаем, что он «захочет» делать, и нам нет нужды волноваться, не станет ли он преследовать цели, отличные от наших. Мы запросто могли бы сделать так, чтобы искусственный интеллект был не в состоянии изменять определенные базовые императивы, которые мы ему дали (что-то вроде дополненной версии законов робототехники Азимова).