100 великих угроз цивилизации

Конечно, чтобы ИИ развился до состояния, при котором он начнет быстро эволюционировать, то есть самосовершенствоваться, ему необходимо достичь некоего критического уровня. Но для этого как минимум требуется сверхмощный компьютер и соответствующее к нему программное обеспечение. Однако это уже не столь фантастическая цель, поскольку в настоящее время существуют компьютеры мощностью порядка 1 петафлопа, то есть способные производить в одну секунду 1000 триллионов операций. И этой мощности, по некоторым оценкам, должно хватить, чтобы имитировать работу человеческого мозга. А значит, на этой платформе можно создать ИИ.

Более того, согласно закону Мура, объем компьютерной памяти удваивается примерно каждые два года. И этому правилу подчиняется каждый показатель производительности компьютера: размер микросхем, скорость процессора и т. д. Опираясь на эти данные, легко предположить, что в ближайшие десять лет мощность компьютеров вырастет приблизительно в 100 раз, или до 1 терафлопа. Соответственно, потребуется всего 1000 таких устройств, чтобы получить 1 петафлоп памяти, необходимый для создания ИИ.

Если же рассматривать ИИ с позиций возможного риска для человечества, то наиболее опасным представляется сценарий, когда мощность искусственного интеллекта начнет очень быстро возрастать. И для этого он со временем сможет сформировать собственную программу, с помощью которой будет постоянно самосовершенствоваться. В результате постепенного развития он сможет превзойти показатели человеческого мозга в тысячи и миллионы раз. Более того, со временем ИИ сможет также упростить свою конструкцию при одновременном увеличении мощности.

А этот временной промежуток может оказаться весьма коротким. Ведь в науке и технике известно немало примеров, когда открытие нового принципа или явления приводило к тому, что оно внедрялось в течение нескольких лет. Например, от открытия цепной реакции урана до создания бомбы прошло всего шесть лет.

Безусловно, сильный искусственный интеллект позволит решать задачи практически любой сложности. К тому же из множества возможных вариантов ИИ будет сам находить наиболее перспективные стратегии в самых разных областях человеческой деятельности: бизнесе, строительстве, транспорте и т. д. Это значит, что его можно будет использовать для достижения любых целей во внешнем мире. В том числе и военных, поскольку ИИ станет абсолютным оружием, которое может привести мир к глобальной катастрофе.

Таким образом, изобретение искусственного интеллекта может принести человечеству как множество благ, так и немало проблем. Так, для сверхмощного ИИ не составит особого труда с помощью созданных им же самим программ взять под собственный контроль не только отдельные персональные компьютеры, но и весь Интернет.

Не исключено, что затем искусственный интеллект попытается обрести власть над миром. Для этого он может воспользоваться уже существующими системами управления в различных сферах общества: в экономике, политике, законодательстве и т. д. Мощный ИИ без труда сможет ввести в заблуждение человека, а тот этого не заметит и не поймет, что им манипулируют.

Программисты уже сочинили один такой катастрофический сценарий. Заключается он в том, что ИИ начинает с максимальной точностью вычислять число «пи». И чтобы сделать это, искусственный интеллект должен будет до бесконечности расширить свои ресурсы. Для этого ему потребуется переработать все вещество Земли, чтобы создать компьютер с неограниченными вычислительными возможностями. Кроме того, ИИ придется устранить все те факторы, которые в состоянии ему помешать осуществить задуманное. В первую очередь он, скорее всего, уничтожит тех программистов, которые могут его отключить, а затем – всех остальных людей.

Изложенный выше сценарий, безусловно, ужасен, но он вероятен. Поэтому человечество, чтобы сохранить себя как цивилизацию, должно взять под самый серьезный контроль любые исследования, связанные с разработкой искусственного интеллекта.

Проблема информационной перегрузки

Со второй половины прошлого века развитые страны мира постепенно стало перемещаться в новую – информационную – среду Особенно быстро этот процесс пошел с появлением компьютеров и Интернета. И сегодня население большинства государств мира уже практически живет в глобальном информационном пространстве.

Безусловно, этот переход в новое измерение оказал огромное положительное влияние почти на все сферы человеческой жизни.

Сегодня на человека обрушился поток сведений, которые человек не в состоянии не только усвоить, но даже пропустить через мозг