God, Human, Animal, Machine: Technology, Metaphor, and the Search for Meaning

Никто не потрудился высказать предположение о конечной точке этого поиска гранулярности, хотя я могу только предположить, что целью было создание чего-то вроде демона Лапласа - интеллекта, который знает положение каждой частицы во вселенной (и каждого патогена тоже) и поэтому может предсказать все, что произойдет в будущем. Или, возможно, что-то вроде Бога Кальвина - существа, которое знает судьбу каждого человека, но при этом отказывает самим людям в знании или доступе к этой информации. Тем временем другая часть интернета приветствовала пророческий голос ясновидящей Сильвии Браун, которая в своей книге "Конец света", вышедшей в 2008 году, предсказала, что примерно в 2020 году "по всему миру распространится тяжелая болезнь, похожая на пневмонию". После того как Ким Кардашьян Уэст опубликовала в своем твиттере соответствующий отрывок, книга, которая уже несколько лет не издавалась, поднялась в списке бестселлеров Amazon.

И только тогда я вспомнил: моя подруга-поэт тоже предсказывала это. Разве это не было ее видением - сейсмическое глобальное событие, начинающееся именно в это время, которое изменит весь ход будущего? Я немедленно написала ей письмо. Я сказал, что она оказалась более прозорливой в предвидении этой катастрофы, чем все, кто сейчас находится у власти, и что ей следует подумать о том, чтобы оказать свои услуги на благо общества. Я получил ее ответ позже в тот же день. Она казалась слегка обиженной тем, что мне потребовалось столько времени, чтобы связать пандемию с ее видением, хотя, возможно, она, как и все мы, просто устала и удручена. По ее словам, проблема с подобными катастрофами заключается не в отсутствии предвидения. Модели и прогнозы были налицо, в руках у людей, облеченных властью, но они не смогли действовать. Пандемия была "полностью результатом человеческой ошибки", когда люди действовали из равнодушия, жадности, некомпетентности и глупости. Она много писала о будущем - это было длинное письмо, - и я не мог не заметить, что ее тон был более фаталистичным, чем годом ранее. Она говорила, что это первое из многих испытаний и бед, которые нам предстоит пережить в грядущие дни, что Земля не умирает, а очищается. У людей был хороший период, и она имела в виду ужасно разрушительный и катастрофический, конец которого уже давно наступил, но все станет лучше, когда нас не станет, когда планета снова будет принадлежать термитам и грибам. "Люди, - сказала она, - это настоящий вирус".

С этим трудно было спорить. Разрушения, которые мы произвели, были неоспоримы и с каждым разом становились все более ужасными. И все же я не знал, чего боялся больше: продолжения человеческих ошибок или того дня, когда система станет настолько эффективной и автономной, что человеческие ошибки и сами люди станут совершенно неважными. Эта мысль вернулась ко мне несколько дней спустя, когда я читал статью об Элоне Маске, одном из самых громких голосов, призывающих к восстановлению экономики, - человеке, который однажды назвал человечество "биологическим загрузчиком" для ИИ. "Загрузчик" - это вычислительный термин, обозначающий минимальную строку кода, которая используется для запуска компьютера. Это крошечная, незначительная программа, единственная цель которой - инициировать более крупные и сложные программы. Если искать аналог в биосфере, то самая базовая последовательность генов - простейшая строка кода - вероятно, принадлежит бактериям, из которых развилось все живое.

Если мы смиримся с тем, что наши машины неизбежно сменят нас по мощности и интеллекту, они, несомненно, начнут воспринимать нас именно так - как нечто бесчувственное и вызывающее смутное отвращение, как сбой в работе их механизмов. То, что мы уже начали говорить о себе в таких терминах, подразумевается в таких фразах, как "человеческая ошибка", которая определяется по-разному: как ошибка, характерная для людей, а не для машин, и как результат, не желаемый набором правил или внешним наблюдателем. Мы действительно являемся вирусом, призраком в машине, жучком, замедляющим работу системы, которая практически во всех смыслах лучше функционировала бы без нас.

 

-