Открыть сервисСервис

Дипфейк: технология и проблемы

Дипфейк (англ. deepfake — от deep learning «глубокое обучение» и fake «подделка») — синтезированный с помощью методов искусственного интеллекта, как правило, видеоматериал, изображение или аудиозапись, в которых лицо или голос одного человека подменены на лицо или голос другого. Термин появился в 2017 году на интернет-форуме Reddit и с тех пор стал обозначать целый класс технологий генерации и манипуляции мультимедийными данными.

Принцип работы

Основу дипфейков составляют модели глубокого обучения, прежде всего генераторы соперничества (GAN) и автоэнкодеры. В классической схеме GAN две нейросети — генератор и дискриминатор — обучаются одновременно: генератор создаёт синтетическое изображение, а дискриминатор пытается отличить его от реального. По мере обучения качество синтеза растёт, пока дискриминатор не перестаёт различать подделку.

Для подмены лица обычно используются энкодер-декодерные архитектуры: общий энкодер выделяет признаки исходного видео, а два декодера обучены восстанавливать лица конкретных людей. На этапе подмены используются лица «жертв» — людей, чьи изображения вносятся в модель. В более продвинутых методах (например, FaceSwap, DeepFaceLab) применяются обучаемые подсети, адаптирующиеся под конкретное лицо, а также синхронизация движения губ с аудиодорожкой (липсинк).

Существуют и более простые инструменты: мобильные приложения и онлайн-сервисы, позволяющие за несколько минут заменить лицо в ролике без специальных знаний. Это сделало технологию массовой.

Классификация

По типу манипуляции дипфейки делятся на несколько категорий:

ТипОписание
Замена лицаПодмена лица одного человека на другое в видео
ЛипсинкСинхронизация движения губ с произносимым текстом
Полная подменаСинтез человека целиком, включая тело и голос
МорфингПлавное преобразование одного лица в другое
АудиодипфейкСинтез голоса на основе небольшой аудиозаписи
Статичный дипфейкМанипуляция фотографиями

Применение

Легитимные применения технологии включают кинематограф (озвучивание и «омоложение» актёров, восстановление речи умерших актёров), локализацию видео, создание обучающих материалов, доступность контента для людей с нарушениями речи, а также художественные и исследовательские проекты. В России и мире разрабатываются инструменты для восстановления исторической хроники и цифровой реставрации.

Проблемы и риски

Основные опасности, связанные с дипфейками:

  • Порнографический контент. По данным ряда исследований, подавляющее большинство существующих дипфейков на момент 2019 года составлял порнографический материал с подменой лиц. Жертвами чаще становятся женщины.
  • Дезинформация. Синтезированные видео с политиками могут использоваться для манипуляции общественным мнением и вмешательства в выборы.
  • Мошенничество. Голосовые дипфейки применяются для звонков от имени руководителей компаний с требованием срочного перевода средств. Известны случаи, когда мошенники, используя синтезированный голос, вымогали крупные суммы.
  • Подделка доказательств. Возможность синтезировать видео ставит под сомнение достоверность видеозаписей как доказательств.
  • Репутационный ущерб. Публикация фальшивых видео с реальными людьми.

Методы обнаружения

Разрабатываются автоматические системы детекции дипфейков, анализирующие артефакты синтеза: неестественные моргания, аномалии освещения и теней, несоответствие движения губ звуку, артефакты в области ушей и волос. Используются и нейросетевые классификаторы, обученные на парах «реальное/синтезированное». Вместе с тем качество генерации растёт быстрее, чем надёжность детекторов, что создаёт «гонку вооружений».

Правовое регулирование

В России ответственность за распространение заведомо ложной информации и за порчу чести и достоинства распространяется и на дипфейки. Уголовная ответственность наступает за клевету (ст. 128.1 УК РФ) и распространение заведомо ложной сведений, порочащих честь и достоинство. В 2023 году в России вступили в силу поправки, касающиеся ответственности за создание и распространение порнографических материалов с использованием изображений реальных людей без их согласия.

В ряде зарубежных юрисдикций приняты специализированные законы: в США — на уровне отдельных штатов, в Китае — обязательная маркировка синтетического контента, в ЕС — в рамках пакета законодательства об искусственном интеллекте.

Интересные факты

  • Первый известный дипфейк-видеоролик появился в декабре 2017 года на Reddit и представлял собой подмену лиц в порнографическом видео.
  • В 2018 году появился сервис «FakeApp», сделавший технологию доступной массовому пользователю.
  • В 2022 году в Нигерии был зафиксирован случай мошенничества с использованием синтезированного голоса на сумму около 10 миллионов долларов.
  • Технология дипфейков стала предметом обсуждения на уровне ООН и G20 как угроза информационной безопасности.

Источники

  • Гарднер А., Лебедев С., Синицын А. Генеративные модели искусственного интеллекта: GAN, VAE, диффузионные модели
  • Chesney R., Citron D. Deep Fakes: A Looming Challenge for Privacy, Democracy, and National Security
  • Вестерманн Г. Deepfakes and the Law
  • Материалы исследований Deeptrace (2019) о распространении дипфейков в сети
Заметили ошибку или не согласны с информацией в статье? Напишите нам support@bfometr.ru