Deepfake — как это работает и как распознать подделку на видео

Deepfake — как это работает и как распознать подделку на видео. Часть 1

Давайте поговорим о дипфейках. Вы наверняка уже видели ролики, где Илон Маск поет «Траву у дома» или Том Круз показывает фокусы. Смешно? Безусловно. Но за этой забавной технологией скрывается нечто гораздо более серьезное. Для меня, как для специалиста по цифровой криминалистике, это, честно говоря, настоящая головная боль и один из главных вызовов последнего десятилетия. То, что еще вчера было неопровержимым доказательством — видеозапись — сегодня может оказаться искусно созданной фальшивкой. И грань между реальностью и вымыслом становится все тоньше.

Сам термин «Deepfake» — это просто комбинация двух понятий: «deep learning» (глубокое обучение) и «fake» (подделка). Если говорить совсем просто, это методика синтеза изображения или голоса человека, основанная на работе искусственного интеллекта. Нейросеть обучается на огромном количестве данных — фотографиях, видео, записях голоса — и затем генерирует совершенно новый контент, в котором один человек может «надеть» лицо другого или произнести слова, которые никогда не говорил. И делает это все более убедительно с каждым годом.

Технология под капотом

Как же это волшебство происходит? Ну, в основе большинства современных дипфейков лежит технология под названием генеративно-состязательные сети, или GAN (Generative Adversarial Network). Звучит сложно, но на деле концепция довольно изящная. Представьте себе двух… ну, скажем, специалистов. Один — гениальный фальшивомонетчик (это «генератор»), а второй — не менее гениальный эксперт-криминалист (это «дискриминатор»).

Задача фальшивомонетчика — нарисовать настолько идеальную купюру, чтобы ее нельзя было отличить от настоящей. Он рисует первую версию и показывает ее эксперту. Эксперт смотрит и говорит: «Нет, это подделка. Вот здесь водяной знак не такой, а тут краска плывет». Фальшивомонетчик учтитывает замечания и рисует новую, улучшенную версию. Показывает снова. Эксперт опять находит изъяны, но уже менее очевидные. И этот цикл повторяется миллионы раз, пока подделка не станет почти неотличимой от оригнала. В какой-то момент эксперт уже не может с уверенностью сказать, где настоящая купюра, а где фальшивая. Вот в этот момент мы и получаем качественный дипфейк.

В нашем случае «купюры» — это кадры видео, а «эксперт» и «фальшивомонетчик» — это две части одной нейросети, которые постоянно соревнуются и обучают друг друга. Одна генерирует поддельное изображение, другая пытается его распознать. И чем дольше они работают, тем совершеннее становится результат. Понимаете, насколько это мощный механизм самообучения?

Сферы применения

Думаете, это просто забавные ролики в интернете? Как бы не так. Спектр применения дипфейков огромен, и он простирается от абсолютно безобидных вещей до откровенно криминальных.

С одной стороны, у нас есть киноиндустрия. Технологию используют для «омоложения» актеров, как это было с Робертом Де Ниро в «Ирландце», или для завершения съемок, если актер, не дай бог, ушел из жизни. Это творческий инструмент, который открывает новые возможности в искусстве и развлечениях. Можно использовать для создания виртуальных аватаров, в образовательных программах, для озвучки фильмов на разных языках голосом оригинального актера. Вполне себе мирные цели.

Но есть и другая, темная сторона. И она, к сожалению, куда обширнее. Понимание вопроса о deepfake, как это работает и как распознать подделку на видео, становится уже не просто техническим любопытством, а навыком цифровой гигиены. Мошенничество — это первое, что приходит на ум. Уже были случаи, когда с помощью подделки голоса руководителя компании мошенники заставляли бухгалтера переводить миллионы долларов на подставные счета. Дезинформация и манипуляция общественным мнением — это еще страшнее. Представьте себе видео, где известный политик объявляет о начале войны или признается в ужасном преступлении за день до выборов. Последствия могут быть катастрофическими. Ну и, конечно, шантаж, создание компрометирующих материалов, репутационные атаки. Возможности для злоупотреблений, увы, почти безграничны.

Визуальный анализ невооруженным глазом

Итак, с теорией разобрались. Теперь к практике. Как же отличить качественную подделку от реальности, если у вас под рукой нет целой криминалистической лаборатории? Ну, хорошая новость в том, что даже у самых продвинутых алгоритмов пока еще есть свои «слабые места». Нейросеть, какой бы умной она ни была, все еще не до конца понимает физику и биологию нашего мира. Она отлично копирует, но не всегда понимает, *что* именно копирует. И вот на этих мелких несостыковках мы ее и можем подловить.

Для нас, криминалистов, первый этап — это всегда внимательный, почти медитативный просмотр. Мы не просто смотрим на общую картинку, а цепляемся за детали. Я всегда советую забыть о сути того, что говорит человек на видео, и сосредоточиться исключительно на «технике исполнения». Представьте, что вы смотрите не на политика, а на работу цифрового художника, и ваша задача — найти в ней изъяны.

Ключевые артефакты подделки

Давайте пройдемся по самым частым «проколам», которые выдают дипфейк. Это своего рода чек-лист, который поможет вам развить профессиональную насмотренность.

• Неестественное моргание. Это классика. Человек моргает в среднем 15-20 раз в минуту, причем делает это неосознанно. А вот нейросети долгое время этому не могли научиться. Почему? Да потому что на большинстве фотографий, на которых они обучаются, люди смотрят в камеру с открытыми глазами. В итоге сгенерированный персонаж либо не моргает вообще, либо делает это слишком редко или, наоборот, слишком часто и как-то механически. Сейчас с этим стало получше, но все равно, присмотритесь к глазам. Они часто выглядят немного «стеклянными», неживыми.
• Размытие и артефакты по контуру лица. Понимаете, дипфейк — это, по сути, цифровая маска, наложенная на другое видео. И место «склейки» этой маски с реальной головой — самое уязвимое место. Обращайте внимание на линию подбородка, щеки, лоб. Если человек на видео поворачивает голову, контур лица может слегка «плыть», дрожать или быть неестественно размытым на фоне четкого заднего плана. Особенно это заметно на границе с волосами или ушами — там алгоритму сложнее всего аккуратно все совместить.
• Несоотвествие освещения. А вот это уже более тонкий момент, который требует внимания. Представьте, что источник света в комнате находится справа. Значит, правая часть лица должна быть освещена ярче, а на левой должны быть тени. Нейросеть, накладывая чужое лицо, не всегда может идеально скопировать схему освещения из оригинального ролика. В итоге вы можете увидеть, что лицо персонажа освещено фронтально, а его шея и плечи — сбоку. Это явный красный флаг. Тени на лице могут вести себя странно, не совпадать с тенями от других объектов в кадре.

Поведенческие и звуковые аномалии

Мы разобрали статичную картинку. Но видео — это же движение, мимика, звук. И тут у нейросетей тоже есть проблемы.

Во-первых, эмоции. Искусственный интеллект может скопировать улыбку, но ему сложно передать искреннюю радость. Улыбка может выглядеть натянутой, не затрагивать мышцы вокруг глаз. Мимика в целом может быть какой-то вялой или, наоборот, дерганой, несинхронной с речью. Человек говорит что-то эмоциональное, а его лицо при этом остается почти неподвижным. Это тот самый эффект «зловещей долины», когда вроде бы все похоже на человека, но мозг чувствует какой-то подвох.

Во-вторых, звук. Синхронизация губ с речью — сложнейшая задача. Присмотритесь к тому, как человек произносит взрывные согласные «б», «п», «м». Губы должны смыкаться. Алгоритм может этот момент упустить. Сам голос тоже может выдать подделку. Даже очень качественный синтезированный голос часто звучит монотонно, без живых интонаций, с неестественными паузами. Иногда в нем можно услышать металлические нотки или странные фоновые шумы, которых не должно быть.

Существует целый класс программного обеспечения (Forensic Tools), которое создано специально для выявления таких подделок. Речь идет не о простых мобильных приложениях, а о решениях уровня Intel FakeCatcher (точность 96%), платформы Sensity AI или инструментов проекта InVID (используется журналистами AFP и Reuters).

Практические шаги и цифровая гигиена

Что же делать обычному пользователю, которого засыпают информацией со всех сторон? Паниковать не стоит. Но выработать несколько полезных привычек жизненно необходимо.

• Включите критика. Это главное правило. Увидели шокирующее видео с известным человеком? Не спешите верить и тем более делиться им. Задайте себе вопрос: кому это может быть выгодно? Не похоже ли это на откровенную провокацию?
• Ищите первоисточник. Постарайтесь найти, откуда это видео появилось изначально. Это официальный канал политика или СМИ? Или какой-то анонимный аккаунт, созданный вчера? Профессиональные медиа всегда проверяют информацию перед публикацией.
• Проверьте другие источники. Если произошло действительно важное событие, о нем напишут все крупные новостные агентства. Если же видео гуляет только по сомнительным пабликам и телеграм-каналам — это серьезный повод усомниться в его подлинности.
• Применяйте полученные знания. Пересмотрите ролик еще раз, уже зная, на что обращать внимание. Поищите артефакты на лице, оцените мимику, вслушайтесь в голос. Часто после такого «холодного» анализа магия пропадает, и вы начинаете видеть подделку.

В нашей работе мы видим, как технологии фальсификации становятся все изощреннее. И гонка вооружений между теми, кто создает дипфейки, и теми, кто их выявляет, будет только нарастать. Поэтому лучшая защита — это не какая-то волшебная программа, а ваша собственная медиаграмотность и критическое мышление. В мире, где подделать можно что угодно, самое ценное — это умение сомневаться.