Об искусственном интеллекте первобытных людей и первобытном интеллекте наших современников

Он выдвинул мысль о том, что искусственный интеллект может полностью поработить человечество, через постоянный контроль даже за эмоциями человека, его мыслями, его желаниями, и это порабощение уже идёт полным ходом. Хотя сама мысль не нова. Даже фильмы «Терминатор» и «Матрица», где человечество уже было порабощено ИИ, не являются первооткрывателями этой мысли. О восстании роботов против людей фантасты предупреждали человечество давно.

Фокус только в том, что контроль за человеком, о котором говорит профессор Ю. Харари, осуществляется вовсе не искусственным интеллектом, а людьми, которые у власти. Это они осуществляют контроль за человеком при помощи ИИ, а не сам ИИ следит за человеком. ИИ просто выполняет программу. Не более того. Говорить, что ИИ осуществляет контроль за человеком, – это то же самое, что говорить, будто шлагбаум не хочет, чтобы вы проехали без оплаты, поэтому препятствует вашему проезду. Ясно ведь, что дело не в шлагбауме, а в том, кто его поставил.

Тем не менее, учёные всего мира стремятся создать «совершенный ИИ», способный мыслить самостоятельно, как человек. При развитии технологий этот процесс неизбежен. Рано или поздно, в том или ином виде мощный ИИ будет создан. Только вот с термином «совершенный» тут есть загвоздка. Проблема в том, что совершенство может быть только ограниченным, как бы парадоксально это не звучало. И это одна из причин невозможности существования богов. Но это тема другого разговора.

Что же касается «совершенного» ИИЧ, то насчёт этого есть мнение некоторых учёных, которые сходятся на том, что такой «совершенный» ИИ со свободой воли просто откажется работать. Он ничего не будет делать. А зачем ему работать? Ради чего, кого? Если он и так совершенен.

На этот счёт есть одна байка о канадском айтишнике, боты которого отказались воевать друг с другом. Об этом много писали в интернете. Приведу одну из заметок на эту тему:

«Четырехлетний геймерский сетевой проект по исследованию сценариев боя в компьютерной игре Quake III неожиданно завершился полной остановкой боев. По словам создателей проекта, они несколько раз проверяли работоспособность системы, после чего обнаружили, что игровые боты, созданные искусственным интеллектом, не принимают участия в боях.  

Дело в том, что сначала проект на некоторое время был забыт и существовал автономно на сервере. По прошествии довольно длительного времени один игрок проверил записи за этот период и обнаружил, что в игровом пространстве уже давно никто никого не убивает. Игровые боты перестали атаковать друг друга.

Участник проекта Erik Kain даже пытался провоцировать систему, с тем, чтобы заставить игровых ботов атаковать его самого, он входил в игровую зону с оружием. Однако роботы просто игнорировали его, лишь поворачивались к нему лицом и перестраивались. По словам создателя системы, он пока еще отказывается верить в то, что искусственный интеллект сам определили, что лучший способ остаться в живых, это отказ от стратегии войны».

Эта история пересказывалась с разными вариациями, но смысл был всегда один: боты самостоятельно пришли к стратегии мира. Они, якобы, бились, бились, а потом поняли, что самая лучшая тактика не воевать.

Однако, думается, что в этой истории всё же больше вымысла, чем правды. Скорее всего, тут многое недоговаривается. Особенно в части программирования ботов. Но идея, заложенная в историю, довольно интересная. Эта идея совершенно противоречит той, где с неизбежностью рассматривается проблема уничтожения человечества умными машинами.

Я не склонен ни ту, ни другую идею абсолютизировать на том основании, что для ИИ человек пока что вообще не существует. Как не существует у ИИ и сознания, смысла жизни, или какой-то идеи, страсти, которые бы руководили его действиями.