Четвертая мировая война. Будущее уже рядом

Возможно, главная проблема, которую пытаются решить сейчас создатели искусственного разума, — это проблема «иерархии». Да, с внутренней иерархией «колонок» — с помощью глубокого обучения — они вроде бы разобрались и смогли её воспроизвести.

Но, как теперь выясняется, кроме иерархии внутри слоёв отдельно взятых участков коры есть ещё и некая иерархия отношения их отделов. И ответ на этот вопрос, я полагаю, лежит в понимании работы внутри каждой конкретной функциональной нейронной сети, и в нас эта иерархия выстраивается с опытом, которого нет (пока нет) у искусственного интеллекта.

Сложность («умность») интеллектуального объекта — той мысли, которую мы с вами думаем, — это как раз и есть его структурная, или, нейропсихологически говоря, иерархическая организация. И именно поэтому старых психиатров совершеннейшим образом шокирует отсутствие структуры в бреде вновь прибывающих шизофреников.

Да, люди всё больше напоминают компьютерные программы: чужды структурной иерархии и действуют, словно линейная «машина Тьюринга» — то есть берут количеством операций, а не их многомерной сложностью.

Так что, пока искусственный разум пытается экспоненциально расти, обучаясь созданию сложных интеллектуальных объектов, человеческие мозги направились в строго противоположном направлении.

У нас развивается своего рода «лайковое мышление»: нравится — лайкаем, не нравится — идём дальше. Простенько, весело, скандально — это да, нам интересно. Сложно, серьёзно, нужно вдуматься — прокручиваем, смахиваем и идём дальше.

«Мне сказали, что каждая включённая в книгу формула вдвое уменьшит число покупателей», — пишет Стивен Хокинг в предисловии к своей «Краткой истории времени». Честно говоря, на этом любую книгу по физике следовало бы, наверное, закончить…

Да, нам всё ещё кажется, что мы сознательно и осознанно принимаем решения, а потому всё вроде как в наших руках. Но правда в том, что это не так. Наше сознание в лучшем случае лишь визирует наши решения, поэтому нами можно легко манипулировать, и оно этого даже не заметит.

Современные технологии нейромаркетинга, нейрополитики и т. д., основанные на технологиях Big Data, станут мощнейшим средством управления людьми и обществом в целом. Нам будет, конечно, казаться, что это мы приняли те или иные решения, но на самом деле их будут принимать те несколько человек, которым эти технологии принадлежат.

Вопрос в том, как долго мы сохраним свой статус «человека разумного». Приставка Sapiens к слову Homo может в скором времени просто отвалиться, если, конечно, мы не станем осознанно за неё бороться.

Мир технологий становится всё более сложным, управлять им, координировать его в целом уже сейчас невозможно. При этом он далеко ещё не в той форме, чтобы можно было ему полностью довериться. Поэтому количество ошибок в системе будет расти, а людей, способных их исправить, людей, которые могут видеть ситуацию в целом, уже сейчас нет.

Так что есть все основания предполагать, что мы «не потеснимся», уступив место сверхмощному искусственному интеллекту, а просто сгинем, отупев до того, как он будет нами создан.

Вот она, альтернатива, очень в духе надписи на придорожном камне из русских народных сказок: создадим серхмощный искусственный интеллект, и он нас уничтожит, не создадим — отупеем от промежуточных результатов «цифрового прогресса» и станем обычным homo.

Глава пятая Пережить третью…

Это потрясающе — иметь на руках реальный кризис, после того как половина твоей политической жизни ушла на всякие скучные вещи вроде охраны среды.

МАРГАРЕТ ТЭТЧЕР

Искусственный интеллект не сказка, не иллюзия, и наше всеобщее оглупление — тоже медицинский факт. То есть он умнеет, а мы глупеем, и поэтому исход нашего с ним противостояния предсказуемо не в пользу человека, по крайней мере — не в пользу «Человека разумного».

Финал Четвёртой мировой, как бы он конкретно ни выглядел в реальности, понятен: на планете Земля появится новый гегемон.

Возможно, и даже скорее всего, он, этот новый искусственно-интеллектуальный гегемон, будет очень странный — точно не такой, каким его рисуют в голливудских фильмах. Думаю даже, что ему будет абсолютно плевать на его гегемонию, просто он окажется таковым по факту.

Во всём, о чём я рассказывал до сих пор, есть только одно «если»: если технологиям и правда свойствен экспоненциальный рост. Всё указывает на то, что да, свойствен. Но чёрт его знает — в конце концов, это только гипотеза. Сохраняется вероятность, что рост будет долгим и мучительным.

В этом случае Третья мировая война грозит сильно подзатянуться. Так что имеет смысл присмотреться к ней повнимательнее.

Линии разлома