Дипфейки встречаются везде, поэтому мы написали руководство, которое поможет вам узнать о них больше.
Можно ли верить всему, что вы видите? Тренд создания дипфейков с помощью машинного обучения заставляет нас задавать этот вопрос каждый день. Но что такое дипфейки и почему они являются проблемой? В нашем руководстве по дипфейкам мы рассмотрим эти и другие вопросы, включая то, откуда берутся дипфейки, как их распознать и что их ждет в будущем.
Что такое дипфейк?
Дипфейк - это искусственное изображение или видео, созданное с помощью особого вида машинного обучения, называемого "глубоким" (от англ. "Deep"). Хорошие дипфейки создаются с помощью двух алгоритмов (A и Б). Алгоритму A дают реальные изображения и учат создавать наилучшие подделки. Алгоритм Б обучают определять, является ли изображение поддельным. Затем алгоритмы помогают друг другу и каждый из них совершенствуется в выполнении своих задач.
Результат? Алгоритм A настолько хорошо научился создавать фейковые изображения, что может обмануть человека.
Заход на глубину
Глубокое обучение - это разновидность машинного обучения. Вы загружаете алгоритм примеров каких-то действий и алгоритм учится воспроизводить нечто, напоминающее эти примеры.
Глубокое обучение пытается воспроизвести процесс обучения человека, используя сложные узловые слои для более быстрого создания лучших и более эффективных результатов.
Чем дипфейк отличается от фотошопа?
Модели с аэрографией и отфотошопленные тела, которые становятся стройнее или привлекательнее, уже много лет часто встречаются в рекламе. В новейших смартфонах используется искусственный интеллект, позволяющий превратить 5 фотографий в одну, чтобы создать "лучший дубль".
Но чем отличаются дипфейки?
Хотя технология, с помощью которой создаются приведенные выше примеры, одинакова, создаваемые изображения не пытаются отразить реальность - это либо искусство, либо представление идеи. Отличие - и опасность - дипфейков заключается в их намерениях. Дипфейки используются для того, чтобы представить версию реальности, которая соответствует замыслу создателя.
Кто создает дипфейки?
Многие создают дипфейки. От ученых и исследователей до энтузиастов-любителей и учреждений. Даже киностудии используют дипфейки для создания сцен с участием умерших актеров или улучшения качества дубляжа в фильмах на иностранных языках.
Почему дипфейки являются проблемой?
Сегодня подавляющее большинство людей получает информацию о мире и формирует свое мнение на основе того, что они читают и смотрят в Интернете.
На личном уровне фейки могут вовлекать людей в аферы и мошенничество или подрывать их репутацию, создавая впечатление, что человек делает то, чего он на самом деле не делал. На глобальном уровне дипфейки мировых лидеров с выдуманными заявлениями могут спровоцировать политическую дестабилизацию или даже конфликт.
"Это был не я!"
Само существование дипфейков создает универсальную возможность их отрицания. Они дают прикрытие любому человеку делать все, что хочется, потому что он может отвергнуть как дипфейк любое доказательство неправомерности своих действий.
Для чего используются дипфейки?
Дипфейки обычных людей чаще всего связаны с травлей или мошенничеством. Создавая доказательства ложных событий, легко поместить людей в нелепые, опасные или компрометирующие ситуации - особенно женщин.
Порнография без согласия составляет 96% дипфейков, существующих в Интернете. Большинство из них направлено на знаменитостей, но растет число сообщений о том, что дипфейковые порно создают из мести.
Создав дипфейк чьего-то голоса (например, любимого человека), мошенники легко получают доступ к банковским счетам или просто выманивают у людей деньги с помощью телефонного звонка.
Корпорации также беспокоятся о мошенничестве с использованием дипфейков. Мошенничество с использованием дипфейков может привести к колебаниям курса акций, обману с онлайн-платежами или нарушению безопасности.
И конечно, правительства боятся дипфейков, потому что они помогают распространять дезинформацию. Мировые лидеры, включая Санду, Зеленского, Путина и Байдена, стали мишенью этой технологии.
Но дипфейки не всегда злонамеренны. Многие из них могут развлечь, помочь или даже утешить тех, кто в этом нуждается. Например, дипфейки, клонирующие голос, могут вернуть людям голос, потерянный из-за болезни. В Америке в музее Дали есть дипфейк художника, который знакомит посетителей со своим творчеством и даже делает с ними селфи.
Примеры дипфейков
Дипфейки используют для создания доказательств того, чего никогда не было. Знаменитости становятся невольными звездами порнографии, а политики появляются в видеороликах Telegram и говорят вещи, которых они никогда не говорили на самом деле.
Вот лишь несколько примеров:
Как распознать дипфейк
Распознавать дипфейки становится все сложнее, но есть способы выявлять их, особенно если они дешевого качества.
Доверяйте своей интуиции. Если что-то выглядит или кажется странным, проверьте изображение/видео.
Плохая синхронизация губ и неровные тона кожи - простые способы выявить дешевые дипфейки. Также может наблюдаться мерцание по краям перенесенных лиц. Мелкие детали, такие как волосы, особенно сложно прорисовать, поэтому челки - еще один признак дипфейков. Зубы, ремни и шнурки также содержат детали, которые в дешевых дипфейках трудно воссоздать убедительно.
Но чем лучше мы будем выявлять дипфейки, тем лучше они будут становиться (алгоритм B питает алгоритм A, помните?). Это гонка вооружения, которая будет наращивать темп, но мы уже видели подобное - в мире компьютерных вирусов. Поэтому в будущем будет неудивительно найти на наших компьютерах программы, похожие на антивирусы, - "детекторы дипфейков".
Будут ли наши лица принадлежать нам в будущем?
Итак, что же ждет дипфейки в будущем? Как уже говорилось, в ближайшее время они не исчезнут. Скорее всего, они будут становиться все более реалистичными, и их будет сложнее обнаружить. Появятся новые инструменты, которые помогут нам определить, что подделка, а что нет.
Контент для алгоритмов дипфейков берется со всего Интернета. Как мы видели из примеров выше, если ваше присутствие в Интернете значительно, вы можете стать мишенью для дипфейков.
Пока что лучше всего скептически относиться к видеороликам, которые вы видите в соцсетях и которые, как кажется, показывают что-то неправдоподобное. Доверяйте своим инстинктам - если это выглядит необычно или звучит неправильно, то, скорее всего, так оно и есть.
Источники
⦁ https://security.virginia.edu
⦁ https://spectrum.ieee.org
⦁https://en.wikipedia.org/wiki/Deepfake
⦁https://www.theguardian.com/technology/2020/jan/13/what-are-deepfakes-and-how-can-you-spot-them
⦁https://us.norton.com/blog/emerging-threats/what-are-deepfakes
⦁https://withpersona.com/blog/what-are-deepfakes
⦁https://www.columbian.com/news/2024/mar/24/one-tech-tip-how-to-spot-ai-generated-deepfake-images