Выявление подлинного контента от Deepfake: 20 ключевых моментов для рассмотрения

Почти нет отличий.

Вот какая будет ваша первая реакция, когда вы будете смотреть deepfake-видео, подобное тому, что было создано на YouTube-канале Eating Things. Некоторые разочарованные фанаты даже утверждают, что это видео было лучше всего сезона 8 Игры Престолов.

• 
• 

Концепция deepfake приобретает популярность, и хотя это пародийное видео на Игру Престолов было создано в юмористических целях, есть и другой контент, созданный с злонамеренными намерениями, который может вызвать широкую панику.

Что такое deepfake?

Deepfake — это сочетание терминов «глубокое обучение» и «подделка». Как следует из названия, это относится к любому контенту, будь то визуальный или письменный, который был изменен и отредактирован настолько убедительно, что трудно отличить реальное от deepfake.

От статьи в журнале, изображающей французского президента Эммануэля Макрона, выходящего в гей-журнале, до видео, где председатель Палаты представителей Нэнси Пелоси выглядит опьяневшей и заплывает речь, дезинформация быстро распространяется, и важно быть готовыми.

Эти видео и журналистские материалы будут продолжать появляться и становиться вирусными в Интернете. Важно помнить, что не все осведомлены о достижениях искусственного интеллекта и машинного обучения, которые способствовали созданию легко доступного программного обеспечения для deepfake.

11 признаков для распознавания deepfake-видео

Технология deepfake все еще находится в стадии разработки, и отличить фальшивое от реального (в основном) не является невозможным. В то время как разрабатывается программное обеспечение для противодействия, существуют и другие способы распознавания deepfake-видео от настоящего, и для этого достаточно человеческого глаза.

1. Выражения лица и движения рта

Технология deepfake все еще развивается, и ИИ, который распознает выражения лица и тон голоса, все еще обучается. В то время как программное обеспечение для редактирования может создавать убедительные имитации выражений и голосов, переход от одного выражения к другому все еще выглядит неестественным, потому что его не выполняет оригинальный объект.

В deepfake-видео субъекты часто кажутся преувеличенными и чрезмерно акцентированными. Кроме того, их движения рта не полностью синхронизированы. Поэтому обращайте внимание на эти аспекты, когда у вас возникают сомнения в подлинности видео.

2. Движение тела

До того, как появилось порно-видео с похожеством на известных лиц, казалось, что deepfake ограничивается видео, сосредоточенным на лице. Однако теперь лица знаменитостей безупречно помещаются на тела порно-звезд. Это является уголовным преступлением, и виновные могут быть осуждены на тюремное заключение.

Если вы хотите определить, является ли видео поддельным или реальным, помните, что вокруг лица человека будет неестественное размытие, дерганные движения тела и сбои в видео. Впечатление не будет безупречным, и могут быть также несоответствия звука. Спросите себя, действительно ли тело соответствует лицу? Кроме того, заметные отличительные черты, такие как татуировки, родинки, оттенок кожи, формы и т. д., могут отсутствовать.

3. Движение глаз

Обычно человек моргает каждые 2-8 секунд, и программное обеспечение deepfake еще не освоило способность воспроизводить этот естественный глазной движение. Поэтому, если вы сомневаетесь в подлинности видео, обратите внимание на движение глаз субъекта. В поддельном видео моргание субъекта будет выглядеть неестественно или вообще может отсутствовать.

4. Изменение цвета кожи

Несмотря на то, что технология deepfake стала все более реалистичной, одним из способов обнаружения поддельного видео является поиск изменений в оттенках кожи и неестественных линий на лице, указывающих на переход между двумя различными оттенками кожи. Если переход выглядит пятнистым и мерцает по краям, вероятно, что видео было создано с использованием deepfake.

При изучении оттенков кожи также обратите внимание на любые необычные различия между лицом и шеей субъекта. Поскольку большинство deepfake-видео фокусируются на создании реалистичного лица, может наблюдаться небольшая разница в цвете кожи при близком рассмотрении субъекта в разных точках видео, если оно поддельное. Кроме того, проверьте, выглядит ли кожа субъекта избыточно морщинистой или слишком гладкой, и соответствует ли она его возрасту.

5. Глюки и частые переходы

Deepfake-видео часто имеют частые переходы и могут показывать черные сцены или глюки между кадрами, указывающие на места редактирования. Эти видео обычно не имеют длинных непрерывных сцен.

6. Роботизированные голоса

При создании deepfake-видео основное внимание уделяется созданию реалистичности. В результате меньшее внимание может быть уделено обеспечению безупречного звука. Звук в deepfake-видео может содержать роботизированный голос субъекта, неправильное произношение, странный фоновый шум или звук, напоминающий эхо, который не соответствует сцене. Стоит проверить оригинальный голос субъекта в других источниках, чтобы определить, был ли звук подвергнут манипуляции.

7. Плохое освещение

Deepfake-видео в основном фокусируются на переходах лиц, часто пренебрегая настройками освещения вокруг субъекта. Если заметны неправильные изменения источников света или если субъект выглядит слишком ярким в одной сцене и слишком тусклым в следующей, возможно, что видео подделано.

8. Волосы и лицевые волосы

Если субъект в видео имеет другую прическу, отличную от его обычного вида, это может указывать на подделку видео. Технология deepfake пока не смогла точно воспроизвести движение и характеристики светящихся, волнистых или кудрявых волос. Даже если программное обеспечение способно это сделать, потребуется значительное время и усилия для создания естественного движения каждого отдельного волоса на голове.

То же самое относится к лицевым волосам, так как deepfake либо уменьшает количество волос на лице, либо создает неестественный эффект дублирования. Обратите внимание на неполные бакенбарды, усы или бороды в deepfake-видео.

9. Очки

Если человек, снимаемый на видео, носит очки, важно внимательно рассмотреть их положение на лице и убедиться, что они симметрично расположены и не имеют пропущенных или странных деталей.

Еще один способ проверить подлинность очков на видео — это обратить внимание на отражения света на них. Deepfake-видео часто не могут точно воссоздать эффект блика, наблюдаемый в реальной жизни. Если отражение на очках не меняется при движении лица, вероятность того, что видео является deepfake, очень высока.

10. Неправильное выравнивание теней

Deepfake-видео обычно снимаются вблизи отдельных людей, поэтому тени часто не видны или не анализируются. Однако, если человек находится дальше или рядом со стеной, его тень может быть видна на земле или на стене. Если тень субъекта постоянно находится в неправильном месте на протяжении всего видео, вероятно, что видео является подделкой.

11. Размытость фона и цифровой шум

В deepfake-видео основное внимание уделяется лицу субъекта, а не окружающей среде. В результате вы можете заметить ненатуральное или слишком размытое размытие фона или резкие края вокруг тела субъекта. Если есть несоответствия в краях лица или шум/зернистость по краям, это является признаком того, что видео скорее всего является deepfake.

9 способов проверить подлинность видео

Помимо вышеупомянутых факторов, есть и другие методы, чтобы определить, является ли видео deepfake. Поскольку технологии продолжают развиваться и делают deepfake более реалистичными, важно знать об этих методах.

1. Замедлите видео/аудио

Воспроизведение видео со скоростью в половину может помочь обнаружить внезапные изменения фона, неправильную синхронизацию губ, изменения тона и другие несоответствия. Просмотр видео на большом экране, таком как планшет или компьютер, и настройка скорости воспроизведения могут помочь выявить любые несоответствия.

2. Увеличьте масштаб, чтобы обнаружить аномалии

Помимо замедления видео, увеличение масштаба на подозрительных участках может показать, выглядит ли лицо гладким или пятнистым, остается ли цвет кожи постоянным на протяжении всего видео и являются ли блики на очках естественными и симметричными. Эти наблюдения могут помочь определить, является ли видео подлинным или подделкой.

3. Проверьте источник и автора видео

Одним из основных шагов в определении подлинности видео является исследование его происхождения. Проверьте, является ли видео от надежного источника, определите, кто его создал или опубликовал, и подтвердите владение аккаунтом.

Если у вас есть сомнения в подлинности этого видео, ищите предыдущие сообщения или статьи от этой учетной записи или веб-сайта. При этом вы можете проверить возраст учетной записи, как долго они публикуют контент, их происхождение или источник видео. Если вы не можете найти достаточно доказательств подлинности видео, то оно, вероятно, является поддельным.

Чтобы проверить видео, попробуйте определить человека, появляющегося в нем, и искать другие видео, где он появляется и говорит. Если подозреваемое видео deepfake недавнее, сравните внешний вид человека на видео с его самой последней фотографией или видео.

Кроме того, убедитесь, что у человека на видео одинаковый голос в обоих видео, так как внешность может измениться, но голос остается постоянным.

Если вы не доверяете источнику, ищите другие версии видео, описывая его содержание или определяя вовлеченных лиц. Используйте поисковые системы с инструментами обратного поиска изображений, чтобы проверить, были ли кадры видео изменены. Это поможет отличить оригинальные видео от подделанных.

Оставайтесь бдительными и помните, что обнаружение deepfakes становится все сложнее. Важно быть информированным и разрабатывать контрмеры, чтобы защитить себя от подделок.

Проверьте подлинность источника видео, используя веб-сайты, такие как tineye.com, чтобы проследить происхождение изображений или видео. Это позволит вам определить, является ли источник надежным или нет.

Доверяйте своим инстинктам, и если что-то кажется неправильным или нереальным во время просмотра видео, переосмыслите его подлинность. Ваши чувства часто могут обнаружить несоответствия, указывающие на deepfake. Вы также можете изучить ресурсы, такие как исследовательский проект Detect Fakes от MIT, чтобы улучшить свою способность распознавать deepfakes.

[image]

При входе в проект вам будет представлено 32 образца. Эти образцы могут состоять из видео, аудио или текста, и вашей задачей является определить, подлинные они или поддельные. Обучая свой разум распознавать подделки, вы можете получить больше уверенности в определении deepfake по сравнению с реальным видео.

9. Используйте внешние инструменты для определения подделок

С развитием технологии deepfake появились и усилия по противодействию ее злоупотреблению. Теперь существуют различные инструменты, которые могут проверить, было ли видео подделано. Один из таких инструментов — Deepware AI, открытый сканер deepfake, предназначенный для проверки подлинности видео. Вы можете использовать этот инструмент, чтобы ввести URL-адрес видео с платформ, таких как YouTube, Facebook или Twitter, или загрузить видео из своей собственной библиотеки. Сканер затем проанализирует видео и покажет, является ли оно реальным, подозрительным или deepfake.

Инструмент использует различные модели, такие как avatarify, deepware и seferbekov, чтобы проверить, было ли видео изменено каким-либо образом. Мы лично протестировали этот инструмент с помощью поддельных и реальных видео, и он точно различал их. В случаях, когда он не может однозначно определить deepfake, он помечает видео как подозрительное. В этом случае вы можете запросить подробный отчет от Deepware или попросить их сообщить о содержимом и удалить его.

Что следует делать, если вы столкнулись с deepfake?

Итак, вы успешно определили deepfake, но какие действия следует предпринять?

Если вы наткнулись на распространяемое в социальных сетях видео deepfake, особенно если его целью является распространение dezinformatsiya, первым шагом является сообщить об этом платформе, на которой размещено видео. Большинство платформ сейчас предпринимают меры для борьбы с dezinformatsiya, но если видео не было удалено и все еще доступно, вы можете сообщить об этом самостоятельно.

Если видео было распространено в группе WhatsApp, Reddit Subreddit или группе Facebook, вам следует связаться с соответствующим администратором и попросить удалить и сообщить о видео. Кроме того, вы можете обратиться за помощью к организациям таким как DeepTrust Alliance, Electronic Frontier Foundation и Cyber Civil Rights Initiative, если кто-то, кого вы знаете, стал жертвой deepfake.

Эффективным подходом к борьбе с deepfake является документирование всех доказательств deepfake, ваших запросов на соответствующую платформу и всех связанных переписок. Если у вас есть значительные доказательства, вы можете обратиться к юристу для возбуждения уголовного дела.

Оставайтесь в курсе дезинформации

Издатели и информационные агентства сталкиваются с серьезными угрозами со стороны deepfake, и ложные новости и истории активно распространяются. Сейчас особенно важно определять дезинформацию.

EU vs Disinfo — это платформа, посвященная борьбе с dezinformatsiya, включая deepfake новости, которые были выявлены до настоящего времени.

Это завершает все, что вам нужно знать, чтобы определить deepfake в реальных видео.