Что мы думаем о машинах, которые думают. Ведущие мировые ученые об искусственном интеллекте

Виды «мыслей», которые есть у глобального мозга, отличаются от тех, что бывают у отдельного человека или менее связанного общества. В лучшем случае эти мысли допускают скоординированную память беспрецедентного масштаба, а иногда даже непредвиденную изобретательность и новые формы кооперации, в худшем — принятие дезинформации за истину и коррозийное воздействие на общественный строй, которые возникают в результате того, что одна часть Сети пытается получить преимущество за счет других (вспомним о спаме и мошенничестве или о поведении финансовых рынков в последние десятилетия).

Искусственный интеллект, с которым нам предстоит столкнуться, не будет разумом отдельной машины. Это не будет нечто чужое в наших глазах. Им вполне можем оказаться и мы сами.

Ты — то, что ты ешь

Энди Кларк

Философ и когнитивист, Эдинбургский университет; автор книги «Расширяя разум: Материальное воплощение, действие и познавательное расширение» (Supersizing the Mind: Embodiment, Action, and Cognitive Extension)

Общая тема в последних работах об искусственном интеллекте — это то, что лучшие из новых обучающихся машин станут основой для «иных» форм интеллекта. Сам я не так уж в этом уверен. К идее об «ином» ИИ обычно приходят в процессе следующих рассуждений. Лучший способ заставить компьютер решать сложные практические задачи состоит в том, чтобы сделать из них статистически сенcитивные обучающиеся машины, способные извлекать максимальную выгоду из использования больших данных. Такие машины часто будут учиться решать сложные проблемы путем выявления паттернов, паттернов среди паттернов и паттернов внутри паттернов, глубоко скрытых в многочисленных потоках данных, к которым у машин есть доступ. Этого, скорее всего, удастся достичь благодаря использованию алгоритмов глубинного обучения, позволяющему машинам все глубже вгрызаться в потоки данных. После завершения такого обучения его результаты становятся системой, которая работает, но обладает структурой знаний, непрозрачной для инженеров и программистов, что выполняли первоначальную настройку.

Непрозрачной? В некотором смысле да. Нам не узнать наверняка (по крайней мере, без дополнительных исследований), каким станет код программы в результате всего такого обучения — глубинного, многоуровневого, основанного на статистических данных. Но будет ли это чем-то «иным»? Сейчас я сделаю одно рискованное утверждение и попытаюсь его проверить. Подозреваю, что чем дольше машины учатся, тем более человеческим становятся их способы мышления. Это рано или поздно приведет к тому, что у нейронных сетей появятся широкие структуры концептов, схожих с человеческими, с помощью которых они будут подходить к своим задачам и принимать решения. Они могут даже научиться использовать эмоциональные и этические ярлыки примерно таким образом, как это делаем мы. Если я прав, то мои выводы не содержат никаких причин для общего беспокойства насчет того, что новоявленные интеллекты окажутся слишком непохожими на человеческий разум, что мы не сможем понять их цели и интересы и что это повлияет на нас непредсказуемым образом. Я предполагаю, что искусственный интеллект повлияет на нас даже слишком знакомым нам образом, а следовательно, можно надеяться, что достаточно будет ограничиться обычными мерами: взаимоуважением и уважением чужой свободы.

Отчего бы машинам думать так же, как мы? Для этого есть причина, и она никак не связана с тем, что наш образ мышления является объективно правильным или уникальным. Причина скорее заключается в том, что я называю пищевой цепью больших данных. Если нейронные сети станут формой общего интеллекта, им придется учиться, потребляя многочисленные электронные следы человеческих переживаний и интересов, поскольку это величайшее из доступных хранилищ информации о мире. Чтобы выйти за пределы ограниченных одномерных областей, искусственным интеллектам нужно будет протралить моря будничных слов и изображений, которые мы выкладываем в Facebook, Google, Amazon и Twitter. Раньше мы могли держать ИИ на строгой диете из астрономических объектов или ребусов на складывание протеинов, но инновационному общему искусственному интеллекту потребуется более богатое и разнообразное питание. Его диету составят огромные напластования человеческих переживаний, сохраняемые в наших электронных средствах коммуникации.