Искусственный интеллект – надежды и опасения

«Красные линии» запретов, которые нам категорически возбраняется пересекать, все чаще кажутся бессмысленными и заслуживающими стирания. Разрыв между человеком и машиной исчезает, ибо машины все больше похожи на людей, а люди становятся все более похожими на машины – и не только потому, что мы старательно следим за маршрутами, проложенными GPS, рефлекторно отвечаем на твиты и поддаемся на тщательно продуманные маркетинговые уловки, но и потому, что мы все лучше узнаем наше сознание и его механизмы и углубляемся в генетическое программирование. Инициатива BRAIN от Национального института здравоохранения (NIH BRAIN) стимулирует разработку и внедрение инновационных технологий для отслеживания ментальных связей мозга ради совершенствования электронного и синтетического нейробиологического оборудования.

Запреты отталкиваются от установок генетической исключительности, признающих гены постоянно наследуемыми (хотя обратимость процедуры доказана), зато всевозможные (и смертоносные) технологии, скажем, автомобили, признаются полезными и обязательными к применению вследствие влияния различных социальных и экономических сил. В рамках генетики «красные линии» побуждают нас запрещать или избегать генетически модифицированных продуктов питания, зато мы одобряем генетически модифицированные бактерии, вырабатывающие инсулин, и даже генетически модифицированных людей (вспомним митохондриальную терапию[207], которую в Европе прописывают взрослым и эмбрионам).

Это манипулирование зародышами выглядит менее разумным, чем обычная практика, сводящаяся к соображениям безопасности и эффективности. Брак двух (в остальном здоровых) носителей одного и того же генетического заболевания предлагает выбор: не заводить ребенка, рискнуть 25-процентной вероятностью гибели эмбриона в результате аборта (самопроизвольного или искусственного), 80-процентной вероятностью гибели эмбриона в результате оплодотворения in vitro[208] – или потенциально нулевыми шансами эмбриона на гибель при использовании генной инженерии. Кажется преждевременным объявлять последний вариант «недостойным».

Что касается «исследований на людях», мы ссылаемся на Хельсинкскую декларацию 1964 года, имея в виду эксперименты в Таскиги 1932–1972 годов – возможно, наиболее печальную страницу в биомедицинской истории США[209]. В 2015 году Проект по защите прав человека подал иск в Верховный суд штата Нью-Йорк от имени двух шимпанзе, оставленных для исследовательских целей в университете Стони Брук. Апелляционный суд постановил, что шимпанзе не должны рассматриваться как юридически дееспособные лица, поскольку они «не имеют обязанностей и ответственности перед обществом», сколько бы Джейн Гудолл[210] и прочие ни утверждали обратное, и не принял во внимание довод, что это решение можно распространить на детей и инвалидов[211].

Что мешает распространению наших прав на других животных, органоидов, машины и гибридов? Мы (например, Хокинг, Маск, Таллинн, Вильчек, Тегмарк) добиваемся запрета на «автономное оружие» и тем самым ликвидировали минимум один тип «тупых» машин, однако другие машины – например, из множества Homo Sapiens, голосующих на выборах, – могут быть смертоноснее и ошибаться чаще.

Неужели трансгуманы уже бродят по Земле? Рассмотрим «неохваченные народы», так сказать, нынешние палеонароды – сентинельцев и прочих андаманцев в Индии, коровай в Индонезии, машко-пиро в Перу, пинтуби в Австралии, сурма в Эфиопии, рук во Вьетнаме, айорео-тотобьегосоде в Парагвае, химба в Намибии и десятки племен в Папуа – Новой Гвинее. Что ответят нам они и что ответили бы наши предки? Мы могли бы определить «трансгуманов» как людей и культуры, непостижимые для тех, кто обитает в современной, но атехнологичной культуре.

Таким современным людям каменного века будет крайне трудно понять, почему мы восторгаемся недавним открытием LIGO гравитационных волн[212], подтвердившим общую теорию относительности столетней давности. Они ломают голову над тем, зачем нам атомные часы и спутники GPS для нахождения дороги домой, ради чего и как мы сумели расширить зрение от узкой оптической полосы до полного спектра, а слух – до полной гаммы. Мы можем двигаться быстрее любого другого живого вида; на самом деле мы способны достичь скорости убегания и выживать в ледяном космическом вакууме.