Способы определения изображений, созданных нейросетями¶
Определение изображений, созданных нейросетями — это совокупность методов и инструментов, позволяющих отличить картинку, сгенерированную искусственным интеллектом, от фотографии, сделанной камерой. С развитием генеративных моделей (Midjourney, DALL·E, Stable Diffusion, Kandinsky) задача верификации изображений приобрела практическое значение для журналистики, юриспруденции и информационной безопасности.
¶Почему возникла необходимость
Генеративные модели способны создавать фотореалистичные изображения людей, событий и объектов. Это порождает риски распространения дезинформации, подделки документов и компрометации персон. В России и мире редакции новостей, платформы социальных сетей и правоохранительные органы используют методы детекции ИИ-изображений для проверки пользовательского контента.
¶Визуальные признаки сгенерированных изображений
До появления автоматических инструментов определить подделку можно было по характерным артефактам. К типичным признакам относятся:
- Аномалии рук и пальцев — генеративные модели часто допускают ошибки в анатомии: лишние пальцы, неестественные сгибы, слипшиеся фаланги.
- Дефекты текста — надписи на вывесках, одежде или документах искажены, буквы сливаются или не соответствуют известным языкам.
- Проблемы с зубами и глазами — неровные зубные ряды, асимметричные зрачки, неестественные блики.
- Фоновые искажения — нелогичные линии перспективы, повторяющиеся элементы фона, «плавающие» объекты.
- Кожа и волосы — чрезмерная гладкость, отсутствие пор, неестественная текстура прядей.
С каждым поколением моделей эти дефекты становятся менее выраженными, поэтому визуальный анализ постепенно теряет надёжность.
¶Автоматические детекторы
Существует ряд онлайн-сервисов и программ, использующих обученные классификаторы для оценки вероятности генерации изображения ИИ:
| Сервис | Принцип работы |
|---|---|
| Hive Moderation | Нейросеть-классификатор, определяет генерацию разными моделями |
| Illuminarty | Анализирует изображение и показывает области, наиболее вероятно сгенерированные |
| Sightengine | API-сервис для разработчиков с оценкой вероятности генерации |
| AI or Not | Простой веб-интерфейс для загрузки и проверки |
| «Сбербанк-ИИ» и отечественные разработки | Модели, обученные на российских датасетах |
Точность детекторов существенно зависит от типа изображения: лучше всего они работают с лицами и слабее — с пейзажами и предметными снимками. Детекторы также могут давать ложные срабатывания на сильно обработанных фотографиях.
¶Метаданные и цифровые подписи
Более надёжный способ проверки — анализ метаданных:
- EXIF — встроенные в файл данные камеры: модель устройства, выдержка, диафрагма, GPS-координаты. У сгенерированных изображений EXIF, как правило, отсутствует или содержит неполные сведения.
- C2PA / Content Credentials — стандарт открытого формата, разработанный Adobe, Microsoft и другими компаниями. Позволяет встроить в файл криптографическую подпись с историей редактирования и указанием источника.
- Стеганографический анализ — проверка внутренней структуры файла на артефакты, характерные для генеративных моделей.
¶Методы, используемые исследователями
Научные лаборатории разрабатывают более продвинутые подходы:
- Детекция по шумовым паттернам — генеративные модели оставляют характерные статистические следы в частотном спектре изображения.
- Анализ затенения и освещения — несоответствия направления теней и источников света.
- Проверка отражений в глазах — в реальных фотографиях зрачки отражают окружение, у ИИ-генераций отражения часто бессмысленны.
- Водяные знаки моделей — некоторые генераторы (например, DALL·E от OpenAI) встраивают невидимые метки в изображения.
¶Ограничения методов
Ни один из перечисленных способов не гарантирует 100-процентного результата. Генеративные модели развиваются быстрее, чем детекторы: изображения, созданные новыми версиями Stable Diffusion или Midjourney, могут обходить даже обученные классификаторы. Кроме того, сильная постобработа (сжатие, фильтры, кадрирование) уничтожает часть цифровых следов, затрудняя анализ.
¶Практические рекомендации
При проверке конкретного изображения эксперты рекомендуют комбинировать методы: визуальный осмотр анатомических деталей, анализ EXIF-данных, проверка через несколько независимых детекторов и сопоставление с первоисточником. Для юридически значимых проверок используется криминалистический анализ файлов.
¶Источники
- Публикации о работе генеративных моделей Stable Diffusion и Midjourney
- Документация стандартов C2PA и Content Credentials
- Материалы лабораторий компьютерного зрения по детекции синтетических изображений