Четвертая мировая война. Будущее уже рядом

Патологическая связь

В отличие от нашего интеллекта, компьютеры удваивают свою производительность каждые восемнадцать месяцев.

СТИВЕН ХОКИНГ

Бессмысленно задаваться вопросом, есть ли в этой коалиции искусственного интеллекта и Big Data место мышлению. Когда создателя IBM Watson Дэвида Ферруччи спрашивают, умеет ли его машина думать, он отвечает на это буквально так: «А умеет ли подводная лодка плавать?»

Не торопитесь читать дальше — почувствуйте его иронию.

Искусственный разум скоро превзойдёт человеческий по всем возможным параметрам, и наша дальнейшая судьба, поверьте, незавидна. Впрочем, мы даже думать об этом с должной серьёзностью не можем.

Не можем по той же причине, по которой не способны представить себе инопланетян иначе, как человечками с руками и ногами. Наше воображение, подобно «Господу Богу», всё лепит по своему образу и подобию. Ему просто недостаёт фантазии, а точнее — ума.

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но всё это — лишь культурные химеры, удобные фикции.

Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток — химические реакции и электрические импульсы. Мы сами — программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.

Понимаю, что всё это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет.

Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта — игнорировать факты и совершать беспримерные глупости, о чём со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».

У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путём — методом проб и ошибок, используя механизмы подкрепления и обратной связи.

То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций — переходов от поколения к поколению — на многие и многие порядки выше, нежели у биологической эволюции.

Да и материал для своего интеллектуального развития этот «человеческий детёныш» получает не в кровопролитной борьбе, а на блюдечке с голубой каёмочкой. Причём это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись — не хочу!

Он больше не программируется умными дяденьками — строчка за строчкой, алгоритм за алгоритмом, а потому и не находится больше под строгим контролем. Хотя мы, в свою очередь, зависим от него уже по полной программе.

Современный искусственный интеллект — это самообучающиеся, самонастраивающиеся и саморазвивающиеся системы, а что у такого «чёрного ящика» внутри — никому неизвестно.

Мы не знаем, как он выигрывает в «Своей игре» или в го у лучшего гроссмейстера на планете. Тот же Ферруччи, как любящий отец, счастливо рекомендует своё чадо:

— Люди спрашивают: а почему Watson здесь ответил неправильно? Я не знаю. Почему он здесь ответил правильно? Я не знаю тоже!

В общем, «Карнавальная ночь»: «Есть ли жизнь на Марсе, нет ли жизни на Марсе? Наука пока не в курсе дела! Асса!» Только в отличие от Марса, наука создала этого монстра собственными руками.

И конечно, все эти турниры да телевикторины — лишь верхушка айсберга, демонстрация возможностей, шоу-бизнес.

Пока мы забавляемся показательными выступлениями IBM Watson в «Своей игре», искусственный интеллект трудолюбиво учится распознавать нашу речь, говорить, узнавать нас в лицо, называть человеческим языком визуальные объекты, определять, где была сделана та или иная фотография, о чём то или иное видео…

Второй сезон популярного сериала «Мир дикого Запада»[40] — перекрученный, переверченный, а поэтому куда менее удачный, чем первый, — всё-таки вполне отчётливо иллюстрирует то, что происходит в наших с вами реальных отношениях с искусственным интеллектом.