PhotoDNA

PhotoDNA — это технология автоматического распознавания цифровых изображений, разработанная корпорацией Microsoft совместно с исследователями Университета Дартмута в 2009 году. Технология предназначена для обнаружения известных изображений, содержащих материалы с сексуальным насилием над детьми (CSAM), путём создания и сравнения уникальных цифровых отпечатков (хэшей) изображений. PhotoDNA используется для выявления и блокировки распространения незаконного контента в интернете, не требуя анализа самого изображения и не нарушая конфиденциальность пользователей.

История создания

Разработка PhotoDNA началась в 2007 году в ответ на растущую проблему распространения детской порнографии в сети. Microsoft совместно с доктором Ханья Фарид из Университета Дартмута, специалистом в области компьютерного зрения, создала алгоритм, который преобразует изображение в уникальный цифровой «отпечаток» (хэш). В 2009 году технология была представлена публично как бесплатный инструмент для правоохранительных органов, интернет-компаний и некоммерческих организаций.

В 2015 году Microsoft выпустила обновлённую версию PhotoDNA, способную обрабатывать видеофайлы. В 2019 году технология была передана в управление некоммерческой организации Thorn (основана актёрами Эштоном Кутчером и Деми Мур), которая занимается борьбой с сексуальной эксплуатацией детей. По состоянию на 2024 год PhotoDNA используется более чем 150 организациями по всему миру, включая Facebook (принадлежит компании Meta, признанной экстремистской и запрещённой в РФ), Twitter, Google, а также Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC) в США.

Принцип работы

PhotoDNA работает в три этапа: создание хэша, сравнение с базой данных и принятие решения о блокировке или маркировке контента.

Создание хэша

Алгоритм анализирует изображение, разбивая его на квадраты (обычно 10×10 пикселей). Для каждого квадрата вычисляется среднее значение яркости и цветовых компонентов. Полученные данные преобразуются в числовой вектор длиной около 144 элементов. Этот вектор, называемый «хэшем PhotoDNA», является уникальным для каждого изображения. В отличие от криптографических хэшей (например, SHA-256), хэш PhotoDNA устойчив к незначительным модификациям: изменение размера, поворот, изменение цветовой гаммы или добавление водяных знаков не меняют хэш.

Сравнение с базой данных

Хэш загруженного пользователем изображения сравнивается с базой данных известных хэшей CSAM. База данных пополняется в основном NCMEC и другими правоохранительными органами. Сравнение происходит путём вычисления евклидова расстояния между хэшами. Если расстояние меньше заданного порога (обычно 0,3–0,5), изображение считается совпадением. Технология не хранит сами изображения — только их хэши, что позволяет использовать её без нарушения законов о конфиденциальности.

Принятие решения

При обнаружении совпадения система автоматически блокирует загрузку изображения, помечает его для проверки модератором или отправляет уведомление в правоохранительные органы. В большинстве случаев процесс занимает менее секунды.

Применение

PhotoDNA используется в нескольких ключевых областях:

Модерация контента в социальных сетях

Крупные платформы, такие как Facebook (запрещена в РФ), Instagram (принадлежит Meta, признанной экстремистской и запрещённой в РФ), Twitter и TikTok, интегрировали PhotoDNA в свои системы модерации. Технология позволяет автоматически блокировать загрузку известных CSAM-изображений до того, как они станут доступны другим пользователям. По данным Microsoft, с помощью PhotoDNA было заблокировано более 10 миллиардов изображений с 2009 по 2023 год.

Помощь правоохранительным органам

PhotoDNA используется полицией и спецслужбами для анализа изъятых устройств и выявления CSAM-контента. Например, Федеральное бюро расследований (ФБР) США применяет технологию для поиска подозреваемых в распространении детской порнографии.

Образовательные и исследовательские проекты

Некоторые университеты и некоммерческие организации используют PhotoDNA для исследовательских целей, например, для анализа распространённости CSAM в сети или для разработки новых методов борьбы с контентом.

Критика и ограничения

Несмотря на широкое признание, PhotoDNA подвергается критике по нескольким причинам:

Ложные срабатывания

Хотя технология имеет низкий уровень ложных срабатываний (менее 0,1%), возможны ошибки при совпадении хэшей с невинными изображениями, например, с фотографиями детей в купальниках или медицинскими снимками. Это может привести к блокировке легального контента.

Проблемы конфиденциальности

Критики отмечают, что использование PhotoDNA может нарушать конфиденциальность пользователей, так как хэши всех загружаемых изображений сравниваются с базой данных. Microsoft утверждает, что хэши не могут быть обратно преобразованы в изображения, но некоторые исследователи ставят это под сомнение.

Ограниченность базы данных

PhotoDNA эффективен только против изображений, уже внесённых в базу данных. Новые или сильно модифицированные изображения (например, с наложением фильтров или изменением ориентации) могут остаться необнаруженными. Это требует постоянного обновления базы данных.

Зависимость от добровольного использования

PhotoDNA не является обязательным для всех интернет-платформ. Мелкие компании и частные форумы могут не использовать технологию, что создаёт «слепые зоны» для распространения CSAM.

Правовой статус в России

В Российской Федерации PhotoDNA не имеет официального статуса, но её использование регулируется общими нормами о защите детей от информации, причиняющей вред их здоровью и развитию (Федеральный закон № 436-ФЗ). Технология не признана запрещённой, однако её применение на территории РФ ограничено из-за требований к локализации данных (Федеральный закон № 242-ФЗ) и запрета на передачу персональных данных за рубеж. Российские интернет-компании, такие как «ВКонтакте» и «Яндекс», разрабатывают собственные аналогичные системы модерации, не использующие PhotoDNA.

Интересные факты

• PhotoDNA была создана после того, как Microsoft обнаружила, что её сервис «OneDrive» используется для хранения CSAM-изображений.
• Технология обрабатывает более 10 миллиардов изображений в месяц по всему миру.
• В 2021 году Microsoft открыла исходный код PhotoDNA для некоммерческих организаций, чтобы расширить доступ к технологии.
• Алгоритм PhotoDNA не может распознавать лица, текст или объекты — он только сравнивает хэши.

Источники

• Microsoft. «PhotoDNA: Technology to help detect child sexual abuse images». (2009)
• Университет Дартмута. «PhotoDNA: A New Tool for Fighting Child Exploitation». (2010)
• Национальный центр по делам пропавших и эксплуатируемых детей (NCMEC). «PhotoDNA and the Fight Against CSAM». (2015)
• Thorn. «PhotoDNA: Technology Transfer and Impact». (2019)
• Федеральный закон № 436-ФЗ «О защите детей от информации, причиняющей вред их здоровью и развитию» (2010)
• Федеральный закон № 242-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации в части уточнения порядка обработки персональных данных в информационно-телекоммуникационных сетях» (2015)