Microsoft PhotoDNA

Microsoft PhotoDNA — это технология автоматического распознавания и сопоставления цифровых изображений, разработанная корпорацией Microsoft и предназначенная для выявления известных сцен сексуального насилия над детьми (CSAM) и материалов, содержащих изображения жестокого обращения с детьми. Технология работает на основе создания уникального цифрового отпечатка (хэша) изображения и последующего сравнения с базой данных известных незаконных изображений, предоставляемой, в частности, Национальным центром по пропавшим и эксплуатируемым детям (NCMEC).

История

Разработка PhotoDNA была начата в 2009 году исследовательским подразделением Microsoft Research в сотрудничестве с учёными из Университета Дартмута. Первоначально технология была создана для борьбы с распространением детской порнографии в интернете. В 2010 году Microsoft передала технологию в безвозмездное пользование NCMEC, а также другим технологическим компаниям, включая Facebook (организация признана экстремистской и запрещена в РФ), Google, Twitter (социальная сеть заблокирована в РФ) и Apple. В 2015 году Microsoft выпустила бесплатную версию PhotoDNA для использования правоохранительными органами и некоммерческими организациями, занимающимися защитой детей. К 2018 году технология была внедрена в облачную платформу Microsoft Azure, что позволило масштабировать её использование.

Принцип работы

PhotoDNA не анализирует содержание изображения как таковое, а преобразует его в уникальный цифровой «отпечаток» — хэш. В отличие от криптографических хэш-функций (например, SHA-1), хэш PhotoDNA устойчив к модификациям изображения: изменение размера, поворот, изменение цветовой гаммы, добавление водяных знаков или небольшое сжатие не меняют хэш, что позволяет находить копии одного и того же изображения, даже если оно было обработано.

Этапы обработки

1. Преобразование в оттенки серого: изображение переводится в чёрно-белый формат для уменьшения объёма данных и повышения устойчивости к цветовым искажениям.
2. Нормализация: изображение масштабируется до стандартного размера (например, 160×160 пикселей).
3. Разбиение на сегменты: изображение делится на сетку из ячеек (обычно 16×16).
4. Вычисление градиентов: для каждой ячейки вычисляется направление и интенсивность изменения яркости.
5. Формирование хэша: полученные данные сводятся в числовой вектор (обычно 144- или 256-мерный), который и является цифровым отпечатком.

Полученный хэш сравнивается с базой данных хэшей известных изображений CSAM. Совпадение с пороговой точностью (обычно 95–99 %) указывает на то, что проверяемое изображение является известным незаконным материалом.

Классификация и варианты

PhotoDNA существует в двух основных формах:

• PhotoDNA для изображений — оригинальная версия, работающая со статическими изображениями (JPEG, PNG, BMP, GIF и др.).
• PhotoDNA для видео — адаптированная версия, способная анализировать видеопотоки, извлекая ключевые кадры и проверяя их на совпадение с базой хэшей.

Обе версии доступны как локально (для установки на серверы организации), так и через облачный сервис Microsoft Azure.

Применение

Основное применение PhotoDNA — автоматическое выявление и блокировка материалов с сексуальным насилием над детьми. Технология используется:

• Социальными сетями и платформами (Facebook (организация признана экстремистской и запрещена в РФ), Instagram (организация признана экстремистской и запрещена в РФ), Twitter (социальная сеть заблокирована в РФ), TikTok) для сканирования загружаемого пользователями контента.
• Облачными сервисами (Microsoft OneDrive, Google Drive) для обнаружения незаконных файлов в хранилищах пользователей.
• Правоохранительными органами (ФБР, Интерпол, Европол) для анализа изъятых устройств и цифровых носителей.
• Некоммерческими организациями (NCMEC, Internet Watch Foundation) для ведения баз данных хэшей и координации международных расследований.

По данным Microsoft, по состоянию на 2022 год технология помогла выявить и удалить более 10 миллиардов изображений CSAM.

Критика и ограничения

Несмотря на широкое признание, PhotoDNA подвергается критике по нескольким направлениям:

• Ложные срабатывания: при низком пороге совпадения возможно ошибочное распознавание легального контента как незаконного. Microsoft утверждает, что частота ложных срабатываний составляет менее 0,0001 %, однако независимые исследования эту цифру не подтверждают.
• Неспособность обрабатывать новые изображения: PhotoDNA может находить только те изображения, хэши которых уже есть в базе. Вновь созданные или ранее не обнаруженные материалы остаются невыявленными.
• Приватность и цензура: использование технологии на платформах вызывает опасения по поводу массового сканирования личных данных и потенциального злоупотребления для политической цензуры. В 2021 году Европейский суд по правам человека рассматривал жалобы на использование PhotoDNA в контексте нарушения права на частную жизнь.
• Устойчивость к обходу: хотя технология устойчива к простым модификациям, существуют методы обхода (например, сильное искажение изображения, добавление шума или использование генеративно-состязательных сетей), которые могут изменить хэш.

Правовой статус в России

В Российской Федерации технология PhotoDNA не имеет специального правового регулирования. Использование подобных систем для выявления незаконного контента регулируется общими нормами Федерального закона «Об информации, информационных технологиях и о защите информации» и Уголовного кодекса РФ (статьи 242.1 и 242.2). Роскомнадзор и МВД России применяют собственные методы мониторинга, не основанные на PhotoDNA. В 2022 году Microsoft приостановила предоставление облачных услуг на территории РФ, что ограничило доступ к облачной версии PhotoDNA для российских пользователей.

Развитие и альтернативы

Microsoft продолжает совершенствовать PhotoDNA, добавляя поддержку новых форматов и повышая точность распознавания. В 2020 году была выпущена версия, способная анализировать изображения, зашифрованные сквозным шифрованием (на стороне клиента). Существуют альтернативные системы, такие как:

• YouTube Content ID — для выявления нарушений авторских прав.
• **Facebook (продукт Meta, признанной экстремистской и запрещённой в РФ) Shark** — внутренняя система Facebook (организация признана экстремистской и запрещена в РФ) для обнаружения CSAM.
• Google SafeSearch — для фильтрации неприемлемого контента.

Однако PhotoDNA остаётся наиболее распространённой и признанной технологией в данной области.

Источники

• Microsoft Corporation. «PhotoDNA: Technology to Help Protect Children from Sexual Abuse». — Microsoft Research, 2010.
• National Center for Missing and Exploited Children. «PhotoDNA and the Fight Against Child Sexual Abuse Material». — NCMEC Annual Report, 2019.
• University of Dartmouth. «Robust Image Hashing for Content Authentication». — Technical Report TR2010-655, 2010.
• European Parliament. «The Use of PhotoDNA for the Detection of Child Sexual Abuse Material». — Study for the LIBE Committee, 2021.
• Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации».
• Уголовный кодекс Российской Федерации, статьи 242.1, 242.2.