Дипфейк: технология и проблемы¶
Дипфейк (англ. deepfake — от deep learning «глубокое обучение» и fake «подделка») — синтезированный с помощью методов искусственного интеллекта, как правило, видеоматериал, изображение или аудиозапись, в которых лицо или голос одного человека подменены на лицо или голос другого. Термин появился в 2017 году на интернет-форуме Reddit и с тех пор стал обозначать целый класс технологий генерации и манипуляции мультимедийными данными.
¶Принцип работы
Основу дипфейков составляют модели глубокого обучения, прежде всего генераторы соперничества (GAN) и автоэнкодеры. В классической схеме GAN две нейросети — генератор и дискриминатор — обучаются одновременно: генератор создаёт синтетическое изображение, а дискриминатор пытается отличить его от реального. По мере обучения качество синтеза растёт, пока дискриминатор не перестаёт различать подделку.
Для подмены лица обычно используются энкодер-декодерные архитектуры: общий энкодер выделяет признаки исходного видео, а два декодера обучены восстанавливать лица конкретных людей. На этапе подмены используются лица «жертв» — людей, чьи изображения вносятся в модель. В более продвинутых методах (например, FaceSwap, DeepFaceLab) применяются обучаемые подсети, адаптирующиеся под конкретное лицо, а также синхронизация движения губ с аудиодорожкой (липсинк).
Существуют и более простые инструменты: мобильные приложения и онлайн-сервисы, позволяющие за несколько минут заменить лицо в ролике без специальных знаний. Это сделало технологию массовой.
¶Классификация
По типу манипуляции дипфейки делятся на несколько категорий:
| Тип | Описание |
|---|---|
| Замена лица | Подмена лица одного человека на другое в видео |
| Липсинк | Синхронизация движения губ с произносимым текстом |
| Полная подмена | Синтез человека целиком, включая тело и голос |
| Морфинг | Плавное преобразование одного лица в другое |
| Аудиодипфейк | Синтез голоса на основе небольшой аудиозаписи |
| Статичный дипфейк | Манипуляция фотографиями |
¶Применение
Легитимные применения технологии включают кинематограф (озвучивание и «омоложение» актёров, восстановление речи умерших актёров), локализацию видео, создание обучающих материалов, доступность контента для людей с нарушениями речи, а также художественные и исследовательские проекты. В России и мире разрабатываются инструменты для восстановления исторической хроники и цифровой реставрации.
¶Проблемы и риски
Основные опасности, связанные с дипфейками:
- Порнографический контент. По данным ряда исследований, подавляющее большинство существующих дипфейков на момент 2019 года составлял порнографический материал с подменой лиц. Жертвами чаще становятся женщины.
- Дезинформация. Синтезированные видео с политиками могут использоваться для манипуляции общественным мнением и вмешательства в выборы.
- Мошенничество. Голосовые дипфейки применяются для звонков от имени руководителей компаний с требованием срочного перевода средств. Известны случаи, когда мошенники, используя синтезированный голос, вымогали крупные суммы.
- Подделка доказательств. Возможность синтезировать видео ставит под сомнение достоверность видеозаписей как доказательств.
- Репутационный ущерб. Публикация фальшивых видео с реальными людьми.
¶Методы обнаружения
Разрабатываются автоматические системы детекции дипфейков, анализирующие артефакты синтеза: неестественные моргания, аномалии освещения и теней, несоответствие движения губ звуку, артефакты в области ушей и волос. Используются и нейросетевые классификаторы, обученные на парах «реальное/синтезированное». Вместе с тем качество генерации растёт быстрее, чем надёжность детекторов, что создаёт «гонку вооружений».
¶Правовое регулирование
В России ответственность за распространение заведомо ложной информации и за порчу чести и достоинства распространяется и на дипфейки. Уголовная ответственность наступает за клевету (ст. 128.1 УК РФ) и распространение заведомо ложной сведений, порочащих честь и достоинство. В 2023 году в России вступили в силу поправки, касающиеся ответственности за создание и распространение порнографических материалов с использованием изображений реальных людей без их согласия.
В ряде зарубежных юрисдикций приняты специализированные законы: в США — на уровне отдельных штатов, в Китае — обязательная маркировка синтетического контента, в ЕС — в рамках пакета законодательства об искусственном интеллекте.
¶Интересные факты
- Первый известный дипфейк-видеоролик появился в декабре 2017 года на Reddit и представлял собой подмену лиц в порнографическом видео.
- В 2018 году появился сервис «FakeApp», сделавший технологию доступной массовому пользователю.
- В 2022 году в Нигерии был зафиксирован случай мошенничества с использованием синтезированного голоса на сумму около 10 миллионов долларов.
- Технология дипфейков стала предметом обсуждения на уровне ООН и G20 как угроза информационной безопасности.
¶Источники
- Гарднер А., Лебедев С., Синицын А. Генеративные модели искусственного интеллекта: GAN, VAE, диффузионные модели
- Chesney R., Citron D. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security
- Вестерманн Г. Deepfakes and the Law
- Материалы исследований Deeptrace (2019) о распространении дипфейков в сети
