Власть роботов. Как подготовиться к неизбежному

GPT-2, получив вводный фрагмент текста или даже одно-два предложения, создает целое повествование: фактически она подхватывает вводный фрагмент там, где он заканчивается, и довершает сюжет. GPT-2 произвела переполох среди исследователей ИИ и в еще большей степени в СМИ, поскольку повествование, создаваемое ею, в большинстве случаев отличается поразительной связностью. Оно настолько связное, что OpenAI перестала делиться кодом GPT-2 с остальными исследователями ИИ, как поступила и со своим предыдущим проектом, опасаясь злоупотреблений. Руководство OpenAI беспокоила возможность вброса в интернет вала фейковых новостей, сгенерированных системой GPT-2, или, скажем, сфабрикованных отзывов на товары онлайн-магазинов. Это решение вызвало критику в сообществе исследователей ИИ, ценящем свободный обмен идеями. Менее чем через год OpenAI изменила свою позицию и в конце концов выпустила код GPT-2, что не привело ни к особой шумихе, ни к каким-либо явным злоупотреблениям. Как результат, на компанию посыпались обвинения в том, что она намеренно создала хайп вокруг своих исследований и добилась известности с помощью алармизма.

Хотя «сочинения», генерируемые GPT-2, в общем состоятельны в отношении грамматики и структуры, даже беглое чтение позволяет понять, что в повествовании есть серьезные недостатки. Вот фрагмент из примера, выложенного на сайте OpenAI.

Стартовый фрагмент, написанный человеком

Ученый совершил потрясающее открытие. Оказывается, в не исследованной прежде долине далеко в Андах живет стадо единорогов. Еще больше исследователей поразило то, что единороги говорят на безупречном английском языке.

Текст, сгенерированный GPT-2

Ученый назвал этих существ «единорогами Овидия» по их характерному рогу. Эти четырехрогие серебристо-белые единороги были до сих пор неизвестны науке.

Сегодня, почти через два столетия, наконец раскрыта тайна происхождения этого удивительного явления.

Доктор Хорхе Перес, эволюционный биолог из Университета Ла-Паса, и несколько его спутников, исследуя Анды, обнаружили маленькую долину, где не было ни других животных, ни людей. Перес обратил внимание, что в долине имеется природный источник, обрамленный двумя горными пиками, покрытыми серебряным снегом.

Перес и его спутники проникли в глубь долины. «Когда мы достигли вершины горного пика, вода выглядела голубой с какими-то кристаллами на поверхности», — рассказал Перес.

Перес с друзьями были поражены, увидев стадо единорогов. За этими существами можно было наблюдать с воздуха, не совершая лишних перемещений, чтобы их увидеть, — они находились так близко, что можно было потрогать их рога.

Рассматривая этих диковинных созданий, ученые обнаружили, что те еще и разговаривают на весьма правильном английском языке. Перес заявил: «Мы заметили, например, что у них имеется общий „язык“, нечто вроде диалекта или диалектики»[176].

История на этом не кончается, есть еще несколько абзацев, но уже в самом начале мы узнаем об открытии нового вида «четырехрогих» единорогов. Далее нам сообщают, что единороги разговаривают на «правильном английском языке», однако у них «имеется общий „язык“, нечто вроде диалекта или диалектики». Остается лишь гадать, как следует понимать предложение: «За этими существами можно было наблюдать с воздуха, не совершая лишних перемещений, чтобы их увидеть, — они находились так близко, что можно было потрогать их рога».