Хоббит, который познал истину

Целая глава отчета была посвящена вопросу о потенциальной опасности искусственного интеллекта (бунт роботов и все тому подобное). Автор утверждал, что опасность такого бунта сильно преувеличена. Фактически разумная машина есть не что иное, как раб, только построенный не на белковой, а на полупроводниковой основе. Да, рабство — это плохо, но рабовладельческий строй существовал много тысячелетий и, несмотря на все недостатки, показал себя весьма эффективной формой общественного устройства. Принято считать, что Рим погубило рабство, но в трудах современных историков причина гибели Рима обозначается совсем другим словом. Словом “глобализация”. Рабы начали бунтовать не из-за того, что вдруг резко осознали бедственность своего положения, а из-за общего обеднения населения, вызванного оттоком капитала из провинции. И если учитывать лучшие достижения древнеримского опыта, вполне можно построить рабовладельческое общество и на современной социальной базе. Не надо пугаться привычных негативно окрашенных представлений, ведь, в сущности, нет ничего страшного в том, что у людей появятся электронные рабы, обладающие полноценным разумом.

Почему рабы бунтуют? Первая причина кроется в особенностях менталитета некоторых народов, например ирландцев и евреев. Очевидно, в случае искусственного интеллекта данная причина неактуальна. Вторая причина — раб хочет стать свободным, дабы иметь больше, чем он имеет сейчас. В Риме эта проблема была решена довольно изящно — хорошо работающий раб автоматически получал свободу через строго определенное время. Кроме того, не каждый раб рвался на свободу, ведь, по некоторым данным, во времена расцвета Рима средний доход раба превышал средний доход гражданина, и потому, напротив, многие свободные продавали себя в рабство. Если мы понимаем под рабом искусственный интеллект на базе виртуального слепка человеческой души, проблема решится, если удастся поместить виртуальную душу в нормальный человеческий мозг. Это вряд ли станет реальным в обозримом будущем, но уже сейчас возможно создание искусственного тела, практически неотличимого от человеческого. Да, вначале такие тела будут стоить очень дорого, но со временем цена упадет до вполне приемлемых величин. А если еще учесть, что эти тела практически бессмертны, люди будут толпами рваться в боты. А вообще, все это ерунда, и живое тело боту не нужно. Многочисленные исследования показывают, что виртуальность воспринимается большинством людей положительно и, если по окончании годового контракта бот получает в бессрочное пользование уголок виртуального мира, пусть даже маленький, большинством людей-прототипов это будет расценено как справедливая сделка. Ну а если предложить обычному среднему человеку прожить остаток жизни в виртуальности, где исполняются почти все желания, вряд ли он откажется.

В общем, данная глава завершалась выводом, что бунта роботов бояться нечего; да, есть потенциальные опасности, упоминался какой-то Азимов, который о них писал, но эти опасности проявятся не сразу, а через очень большой промежуток времени, а к тому времени человечество что-то придумает.

Макс спросил меня, что я думаю по этому поводу, и я не нашелся что ответить. Я пробормотал что-то невнятное, вроде того что не настолько хорошо разбираюсь в этой проблеме, чтобы делать конкретные выводы, и, как ни странно, этот ответ вполне удовлетворил Макса. А потом я отправился в домен Microsoft.

10

Я сразу понял, что здесь мне делать нечего. Не то чтобы совсем нечего, но поставленная задача требовала значительно меньшей квалификации, чем то, чем я занимался в лаборатории искусственного интеллекта. На этот раз от меня не требовалось анализировать информацию, отделять важное от незначительного, составлять компактные сводки и переправлять их через узкую щель в практически непробиваемой защите. Нет, защиту microsoft.com нельзя назвать слабой, она построена очень хорошо, но в ней нет той параноичности, с которой мне пришлось бороться в прошлый раз.

Не могу сказать, что проникнуть в сеть Microsoft было просто. Основную часть работы сделали ребята Макса, нашедшие сотрудника этой компании, который установил на рабочий компьютер модем для подключения из дома. Пройти во внутреннюю сеть через это подключение было делом пяти минут, а вот потом потребовалось все мое умение. Только полностью перенеся сознание внутрь атакуемой сети, можно обеспечить реакцию на внешние раздражители в реальном времени, а не с губительным десятисекундным опозданием. И только нормальный, полноценный разум, не важно, естественный или искусственный, способен адекватно отреагировать на любую попытку подсистемы защиты обнаружить и уничтожить пришельца.