«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча», — говорил Илон Маек в 2017 году на встрече Национальной ассоциации губернаторов США.
Понимая, видимо, что он выглядит немного странно со своими заявлениями, Маек просил присутствующих просто ему поверить и активно включиться в процесс законодательного регулирования работ по искусственному интеллекту.
В противном случае, убеждал он, нам останется лишь реагировать на изменения в отрасли, когда от человека, в принципе, уже ничего не будет зависеть и он не сможет влиять на происходящее — «будет уже слишком поздно».
Все желающие могут пройти по ссылке www. openai.com и посмотреть, что сейчас происходит с проектом независимого и открытого искусственного интеллекта, затеянного Маском в противовес частным искусственным интеллектам, разрабатываемым компаниями под завесой секретности.
Там же вы прочтёте, как OpenAI определяет свои цели и задачи.
«Миссия OpenAI, — пишут основатели проекта, — заключается в создании безопасного ОИС (общего искусственного интеллекта) и обеспечении максимально широкого доступа к его возможностям.
Мы — некоммерческая исследовательская компания. Наша команда состоит из 60 исследователей и инженеров, работающих на постоянной основе, которые нацелены на выполнение нашей миссии, не преследуя личной выгоды».
К сожалению, на сайте нет информации, почему в 2018 году Илон Маек вышел из совета директоров OpenAI. В прессе сообщалось, что это связано с «возможным конфликтом интересов», что само по себе очень мило, на мой взгляд…
Так или иначе, но этот новый коллективный Оппенгеймер «из 60 исследователей и инженеров» строит новую бомбу, чтобы обогнать своего названного противника. Но даже если и обгонит, бомба будет всё равно создана, а такие штуки без дела не пропадают.
Немногие, наверное, об этом знают, но Эйнштейн отправил Рузвельту и второе письмо, когда у американцев уже была бомба. В нём, как нетрудно догадаться, Эйнштейн пытался убедить президента не использовать атомное оружие.
По стечению обстоятельств, письмо оказалось на столе Рузвельта 12 апреля 1945 года — в день его смерти — и даже не было распечатано.
Позже, вспоминая трагедию Хиросимы и Нагасаки, Эйнштейн признается своему биографу: «Да, я нажал на эту кнопку». Впрочем, он явно преувеличивал. Если и нажал, то не более, чем Хокинг на свою, мигая веком.
Да, ни Маек, ни Брин, бьющиеся в своём искусственно-интеллектуальном противостоянии, не учитывают того факта, что на сцене, подобно чёрному лебедю Нассима Талеба, в любой момент вместо интеллигентного Рузвельта может объявиться боевой офицер Гарри Трумэн.
И руки у новых Трумэнов уже чешутся…
Глава четвертая
Исчезающий вид
Физическое вымирание может оказаться далеко не самым страшным последствием. Вспомните о разного рода наших отношениях с животными.
История, которую я сейчас расскажу, настоящая. Она произошла ещё в прошлом веке — в 1999 году. Это было так давно, что я уже не помню, как звали участников этой драмы, поэтому, прошу понять меня правильно, всякие возможные совпадения имён — случайны.
Мальчику Фёдору двенадцати лет, страдающему лёгким и ^диагностированным аутизмом, мама пообещала сломать его компьютер, если он не прекратит им пользоваться.
Компьютер по тем временам представлял собой огромную ценность, тем более для подростка. Кроме того, угроза, надо признать, выглядела, мягко говоря, парадоксальной — и в том, и в другом случае компьютером нельзя пользоваться. Да, с такой задачкой аутисту не справиться.
И вот растерянный Фёдор делится своей бедой с мальчиком Петей — соседом по лестничной клетке, десяти лет от роду, который, в силу авантюрности своего характера, привлёк к решению этой проблемы мальчика Витю.
Витя — одноклассник Фёдора, крупный для своих лет, спортивный. Он мечтал как-то мощно заявить о себе, а Петя знал об этой мечте и, будучи ребёнком достаточно креативным, внушил ему, что знает, как это сделать…
Это было нетрудно сделать, поскольку Витя, несмотря на хорошую физическую форму, страдал умственной отсталостью. Впрочем, это тоже выяснилось уже после всех произошедших событий (по результатам судебно-психиатрической экспертизы, у него была диагностирована лёгкая степень олигофрении).
И вот этой троицей — аутист, авантюрист и олигофрен — был разработан план «заказного убийства». Чистый, незамутнённый IQ способен на многое!
Финал этой истории таков: мальчики Петя и Витя позвонили в квартиру Фёдора, которого на тот момент, по договорённости, не было дома. Дверь открыл отец семейства, после чего нападавшие тут же воспользовались газовым баллончиком и ножом.