Дипфейк¶

Дипфейк (от англ. deep learning — глубокое обучение и fake — подделка) — это технология синтеза изображения, аудио или видео на основе искусственных нейронных сетей, позволяющая создавать реалистичный контент, в котором лицо, голос или действия человека имитируются с высокой степенью достоверности. Дипфейки относятся к классу генеративных моделей машинного обучения и используются как в развлекательных и образовательных целях, так и для создания дезинформации, мошенничества и нарушения авторских прав.

¶История

¶Ранние предпосылки

Первые эксперименты по синтезу изображений с помощью нейросетей относятся к 2014 году, когда исследователи из Университета Монреаля представили генеративно-состязательные сети (GAN). Эта архитектура, предложенная Яном Гудфеллоу, позволила генерировать реалистичные изображения, обучая две нейросети: генератор, создающий подделки, и дискриминатор, отличающий их от реальных данных.

¶Появление термина

Термин «дипфейк» вошёл в обиход в конце 2017 года, когда на интернет-форуме Reddit пользователь под псевдонимом «deepfakes» начал публиковать видеоролики, в которых лица знаменитостей были наложены на тела актёров порнографических фильмов. Технология быстро распространилась: в 2018 году появились первые открытые библиотеки и приложения (например, FakeApp), позволяющие создавать дипфейки без глубоких знаний в области машинного обучения.

¶Развитие и совершенствование

В 2019–2020 годах алгоритмы дипфейков значительно улучшились: модели на основе вариационных автоэнкодеров (VAE) и генеративно-состязательных сетей (GAN) стали создавать видео с разрешением 1080p и выше, а также синтезировать голос с точностью, близкой к человеческой. В 2021 году компания Meta (организация признана экстремистской и запрещена в РФ) представила систему «Make-A-Video», способную генерировать короткие видеоролики по текстовому описанию, что расширило возможности создания дипфейков. К середине 2020-х годов технология стала доступна широкой аудитории через мобильные приложения (например, Reface, Zao) и веб-сервисы.

¶Классификация дипфейков

¶По типу контента

Видеодипфейки — наиболее распространённый тип, при котором лицо одного человека заменяется на лицо другого в существующем видео. Примеры включают подмену лиц в фильмах, политических выступлениях или личных видео.
Аудиодипфейки — синтез голоса, имитирующий речь конкретного человека. Используются в голосовых помощниках, аудиокнигах, а также для мошенничества (например, звонки от имени родственников или руководителей).
Текстовые дипфейки — генерация текста, стилизованного под конкретного автора (например, письма, статьи, посты в соцсетях). Технология основана на языковых моделях, таких как GPT.
Изображения — создание фотографий несуществующих людей (например, сайт «This Person Does Not Exist») или модификация существующих снимков.

¶По цели использования

Развлекательные — создание мемов, пародий, фильмов с участием исторических личностей (например, «оживление» портретов в музеях).
Образовательные — реконструкция исторических событий, обучение актёров или врачей.
Мошеннические — подделка документов, голосов для кражи денег, шантаж.
Политические — создание ложных заявлений политиков, дискредитация оппонентов.
Порнографические — наложение лиц знаменитостей на тела актёров без их согласия.

¶Технология создания

¶Основные методы

Дипфейки создаются с помощью глубоких нейронных сетей, обученных на больших наборах данных (например, тысячи фотографий или часов аудиозаписей целевого человека). Основные архитектуры:

Генеративно-состязательные сети (GAN) — состоят из генератора и дискриминатора, которые соревнуются: генератор пытается обмануть дискриминатор, а дискриминатор учится отличать подделку от оригинала.
Вариационные автоэнкодеры (VAE) — сжимают входные данные в латентное пространство и восстанавливают их, позволяя манипулировать признаками (например, изменять выражение лица).
Диффузионные модели — постепенно добавляют шум к изображению и затем восстанавливают его, что даёт высокое качество синтеза.

¶Этапы создания

Сбор данных — сбор изображений, видео или аудиозаписей целевого человека (обычно требуется от нескольких сотен до тысяч образцов).
Обучение модели — нейросеть обучается на этих данных, выявляя характерные черты (мимику, интонацию, жесты).
Синтез — модель генерирует новый контент, комбинируя черты целевого человека с исходным материалом (например, заменяет лицо в видео).
Постобработка — улучшение качества (устранение артефактов, синхронизация губ с аудио).

¶Применение

¶Легальное и полезное

Кинематограф и анимация — создание цифровых двойников актёров (например, воссоздание образа актёра Питера Кушинга в фильме «Изгой-один: Звёздные войны. Истории»).
Медицина — синтез голоса для людей с нарушением речи, реконструкция лиц для пластической хирургии.
Образование — создание интерактивных исторических персонажей для музеев (например, проект «Живой портрет» в Третьяковской галерее).
Перевод видео — замена речи на другом языке с сохранением мимики и интонации (технология «dubbing»).

¶Проблемы и злоупотребления

Дезинформация — создание фальшивых новостей, где политики или знаменитости якобы делают заявления, которых не было. Пример: видео с президентом Украины Владимиром Зеленским, призывающим к капитуляции (2022 год).
Мошенничество — звонки от имени руководителей компаний с просьбой перевести деньги (например, в 2019 году мошенники использовали дипфейк голоса директора британской энергетической компании).
Порнография без согласия — создание интимных видео с лицами публичных людей (актрис, политиков), что нарушает права на изображение.
Судебные подлоги — подделка аудиозаписей или видео в качестве доказательств в суде.

¶Обнаружение дипфейков

¶Технические методы

Анализ артефактов — дипфейки часто содержат несоответствия: неравномерное моргание, искажения на границах лица, несинхронность губ и речи.
Нейросетевые детекторы — обученные модели, которые выявляют подделки по статистическим аномалиям (например, алгоритмы от Facebook или Microsoft).
Блокчейн-верификация — использование цифровых подписей для подтверждения подлинности видео (например, проект «Content Authenticity Initiative» от Adobe).

¶Правовые и организационные меры

Законодательство — в ряде стран (США, Китай, Россия) приняты законы, требующие маркировки дипфейков или запрещающие их использование для мошенничества и клеветы. В России с 2021 года действует закон о «цифровом профиле», который регулирует использование биометрических данных, а в 2023 году введены поправки к УК РФ, предусматривающие ответственность за создание дипфейков с целью распространения порнографии или дезинформации.
Образование — кампании по повышению медиаграмотности населения (например, курсы по распознаванию дипфейков).

¶Критика и этические проблемы

¶Нарушение приватности

Дипфейки позволяют использовать изображение и голос человека без его согласия, что нарушает право на частную жизнь. Особенно остро эта проблема стоит для публичных лиц, чьи данные доступны в открытом доступе.

¶Угроза доверию к информации

Массовое распространение дипфейков подрывает доверие к аудиовизуальным доказательствам. В 2020 году исследователи из Массачусетского технологического института (MIT) показали, что люди не способны отличить дипфейки от реальных видео в 30–40% случаев.

¶Правовая неопределённость

Во многих странах отсутствует чёткое регулирование дипфейков: сложно установить, кто несёт ответственность — создатель, платформа, распространяющая контент, или алгоритм, обучивший модель. В России в 2024 году обсуждается законопроект, обязывающий маркировать дипфейки и запрещающий их использование в предвыборной агитации.

¶Интересные факты

В 2019 году приложение FaceApp, создающее дипфейки (старение, смена пола), собрало более 100 миллионов загрузок, но вызвало скандал из-за передачи данных пользователей в Россию.
В 2023 году исследователи из Университета Ватерлоо разработали метод обнаружения дипфейков по пульсу — технология анализирует изменение цвета кожи, вызванное кровотоком, которое невозможно точно смоделировать.
В 2024 году компания OpenAI представила модель Sora, способную генерировать реалистичные видео по текстовому описанию, что вызвало опасения по поводу массового создания дипфейков.

¶Источники

Goodfellow, I. et al. «Generative Adversarial Nets» (2014) — основополагающая работа по GAN.
«Deepfakes: A New Challenge for Privacy, Democracy, and National Security» — отчёт Центра стратегических и международных исследований (CSIS), 2019.
Федеральный закон РФ «О персональных данных» (№ 152-ФЗ) и поправки к УК РФ (2023).
«The State of Deepfakes» — ежегодные отчёты компании Deeptrace Labs (2019–2020).
«Content Authenticity Initiative» — документация Adobe, 2021.

BFOmetr — база данных и аналитика по компаниям России.

На главную BFOmetr →