Представьте себе ювелирный магазин с пуленепробиваемыми витринами, способными защитить от любых видов стрелкового оружия. Но если у преступника будет ручной противотанковый гранатомет (РПГ), никакое пуленепробиваемое стекло перед ним не устоит. Так что все дело в мощности компьютера.
К 2041 году антидипфейковые программы станут похожими на сегодняшний антивирусный софт. Правительственные, новостные и другие сайты, для которых достоверность информации критически важна, не потерпят фальшивого контента и потому будут устанавливать высококачественные детекторы дипфейков, предназначенные для выявления подделок с высоким разрешением, которые, в свою очередь, создадут крупные сети GAN, обученные на мощнейших компьютерах.
Сайты со слишком большими объемами видео- и фотоматериала (например, Facebook и YouTube) столкнутся с проблемой высокой стоимости сканирования всего загружаемого контента с помощью высококачественных детекторов дипфейков, поэтому они, скорее всего, начнут использовать для всего медиаконтента детекторы низкого качества, а более качественный софт применять, только когда популярность видео или изображения покажет экспоненциальный рост.
Поскольку фейковое видео Амаки должно было стать вирусным, его нужно было обучить на самом мощном компьютере с наибольшим объемом данных, чтобы его не могли обнаружить самые качественные антидипфейковые детекторы.
Следует ли считать цель стопроцентного обнаружения дипфейков безнадежной? В очень долгосрочной перспективе это может стать возможным благодаря применению совершенно другого подхода — аутентификации каждой фотографии и видео, когда-либо снятых каждой камерой или телефоном, с использованием в момент съемки технологии блокчейн (она гарантирует, что оригинал не изменялся).
Тогда любое фото, загруженное на сайт, должно будет сопровождаться блокчейн-авторизацией. Такой процесс действительно сделает дипфейки невозможными. Однако к 2041 году такой апгрейд еще будет немыслим — ведь для этого требуется, чтобы технология блокчейн использовалась абсолютно на всех устройствах (точно так же, как сегодня все AV-ресиверы используют Dolby Digital), и она должна стать достаточно быстрой для обработки данных в огромных масштабах.
Мы надеемся, что пока у нас нет такого долгосрочного решения, основанного на блокчейне или аналогичной технологии, инструменты для обнаружения дипфейков будут постоянно совершенствоваться. А поскольку они вряд ли будут идеальными, нам также потребуются законы, жестко наказывающие за создание злонамеренных дипфейков и тем самым сдерживающие пыл злоумышленников.
Так, в 2019 году в Калифорнии приняли закон, запрещающий использование дипфейков для порно и для манипуляций с видео с политическими кандидатами в преддверии выборов. Нам, по всей вероятности, потребуется научиться жить в новом мире (до тех пор пока не заработает блокчейн-решение), в котором любой онлайн-контент, независимо от его реалистичности, должен подвергаться сомнению.
Следует также отметить, что помимо создания дипфейков GAN можно использовать для вполне конструктивных задач — «состаривания» или «омоложения» фотографий, раскрашивания старых черно-белых фильмов и фото, создания анимированных живописных полотен (например, Моны Лизы). Можно увеличивать разрешение фотографий, обнаруживать глаукому, прогнозировать последствия изменения климата и даже изобретать новые лекарства.
Так что не стоит думать о GAN только в связи с дипфейками — как в случае с большинством новых прорывных новшеств, позитивные способы применения этой технологии со временем наверняка превзойдут по численности негативные.
Биометрия — это область изучения физических характеристик человека с целью их дальнейшего использования для проверки и подтверждения личности. То, как сложная GAN использовалась в рассказе «Боги под масками», представляет собой одну из форм биометрической верификации. Там GAN объединяла важные признаки, включая распознавание лиц, походки, геометрии ладоней и пальцев, идентификацию говорящего, распознавание вен и жестов.
В реальности биометрия обычно применяется в режиме реального времени с помощью специальных датчиков, а не путем извлечения необходимых данных из видеозаписи, как это показано в нашем рассказе. Например, радужная оболочка человеческого глаза и отпечатки пальцев уникальны для каждого человека и идеально подходят для проверки личности.
Распознавание радужной оболочки глаза считается наиболее точным методом биометрической идентификации. Чтобы верифицировать личность таким способом, глаза объекта фотографируют в инфракрасном свете, а снимок сравнивают с радужной оболочкой человека, которого проверяют.
Распознавание отпечатков пальцев — также чрезвычайно точная методика. Однако и в том и в другом случае требуется согласие объекта и специальное оборудование с датчиками ближнего действия[30], поэтому в ситуации с видеозаписями из нашей истории эти методы использовать было бы невозможно.