Маркировка контента искусственного интеллекта

Маркировка контента искусственного интеллекта — это практика указания на то, что текст, изображение, аудио- или видеоматериал были полностью или частично созданы, сгенерированы, отредактированы или обработаны с использованием технологий искусственного интеллекта (ИИ). Целью маркировки является информирование потребителей контента о его происхождении, что способствует прозрачности информационной среды, борьбе с дезинформацией и соблюдению этических норм. Маркировка может быть добровольной, обязательной по закону или технически реализованной в виде цифровых водяных знаков и метаданных.

История

Предпосылки возникновения

До середины 2010-х годов контент, созданный с помощью алгоритмов, был относительно редок и легко идентифицируем. Однако с появлением генеративных нейросетей, таких как GPT-2 (2019 год) и DALL-E (2021 год), а также сервисов для создания дипфейков, объём синтетического контента в интернете резко вырос. Возникла проблема «информационной асимметрии»: пользователи не могли отличить реальные фотографии, видео или тексты от сгенерированных, что создавало риски для политических процессов, экономики и личной безопасности.

Первые инициативы

В 2020-х годах крупные технологические компании начали вводить собственные системы маркировки. Например, в 2022 году компания Meta (организация признана экстремистской и запрещена в РФ) объявила о добавлении тегов к изображениям, созданным её собственными инструментами ИИ. В 2023 году компания OpenAI начала добавлять водяные знаки на изображения, сгенерированные DALL-E 3. В том же году Китай ввёл одни из первых в мире обязательных требований к маркировке контента ИИ, обязав платформы указывать происхождение материалов.

Законодательное регулирование

В 2024 году Европейский союз принял Закон об искусственном интеллекте (AI Act), который, среди прочего, требует обязательной маркировки глубоких подделок (дипфейков) и контента, взаимодействующего с пользователями от имени ИИ. В России в 2023 году был принят Федеральный закон № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций», который заложил основы для регулирования, включая требования к идентификации контента ИИ. В 2024 году Роскомнадзор начал разрабатывать методические рекомендации по маркировке.

Виды и способы маркировки

Маркировка контента ИИ может быть реализована на нескольких уровнях:

Визуальная маркировка

Наиболее заметный для пользователя способ. Включает:

• Текстовые пометки: надписи «Создано ИИ», «AI-generated», «Синтетический контент», размещаемые на самом изображении, в начале видео или в описании.
• Водяные знаки: полупрозрачные логотипы или паттерны, накладываемые на изображение или видео, которые трудно удалить без потери качества.
• Цветовые индикаторы: например, цветные рамки или полосы, указывающие на происхождение контента.

Техническая маркировка (метаданные)

Встраивание информации непосредственно в файл:

• Цифровые подписи: криптографические метки, подтверждающие авторство алгоритма.
• Метаданные EXIF: в изображения и видео могут добавляться поля, указывающие на использование ИИ (например, параметры модели, дата генерации).
• Стандарты C2PA (Coalition for Content Provenance and Authenticity): открытый технический стандарт, позволяющий отслеживать всю историю изменений медиафайла, включая применение ИИ. Поддерживается такими компаниями, как Adobe, Microsoft, Intel.

Поведенческая маркировка

Применяется для чат-ботов и голосовых ассистентов: обязательное уведомление пользователя о том, что он общается с ИИ, а не с человеком. Например, в Китае закон требует, чтобы боты представлялись как «Искусственный интеллект» в начале диалога.

Правовое регулирование в России

Основные нормативные акты

В России регулирование маркировки контента ИИ находится на стадии формирования. Ключевые документы:

• Федеральный закон № 258-ФЗ (2023): определяет понятие «контент, созданный с использованием технологий искусственного интеллекта» и закрепляет право правительства устанавливать требования к его маркировке.
• Постановление Правительства РФ № 1749 (2023): в рамках экспериментального правового режима в сфере ИИ устанавливает, что операторы информационных систем обязаны информировать пользователей о том, что контент создан ИИ, если это предусмотрено условиями эксперимента.
• Рекомендации Роскомнадзора (2024): проект методических указаний, предлагающий обязательную маркировку для дипфейков, политической рекламы и контента, способного ввести в заблуждение.

Требования к маркировке

Согласно проектам нормативных актов, маркировка должна быть:

• Заметной: текст или значок должен быть читаемым, контрастным, не скрываться другими элементами.
• Неудаляемой: техническая маркировка должна сохраняться при копировании и распространении контента.
• Универсальной: единый формат для всех платформ (например, использование стандарта C2PA).

Ответственность за отсутствие маркировки

Нарушение требований может повлечь административную ответственность по ст. 13.11 КоАП РФ (нарушение порядка обработки информации) или ст. 14.3 КоАП РФ (нарушение законодательства о рекламе). В случае распространения недостоверной информации, созданной ИИ без маркировки, возможна блокировка контента по требованию Роскомнадзора.

Применение и значение

Борьба с дезинформацией

Маркировка позволяет пользователям критически оценивать информацию. Например, во время выборов в разных странах (США, Индия, Бразилия) были зафиксированы случаи распространения дипфейков политиков. Пометка «Создано ИИ» снижает доверие к такому контенту и уменьшает его виральность.

Защита авторских прав

Маркировка помогает отслеживать происхождение контента, что важно для доказательства плагиата или незаконного использования произведений, созданных ИИ.

Этика и доверие

Прозрачность в отношении использования ИИ повышает доверие пользователей к платформам и сервисам. Компании, добровольно внедряющие маркировку, демонстрируют приверженность этическим стандартам.

Критика и проблемы

Технические ограничения

• Обходимость: водяные знаки и метаданные могут быть удалены с помощью специальных программ или простого скриншота.
• Сложность детекции: для некоторых видов контента (например, текстов, написанных нейросетью) точное определение авторства ИИ затруднено, что делает маркировку ненадёжной.
• Ложные срабатывания: системы автоматической маркировки могут ошибочно помечать контент, созданный человеком, как ИИ-сгенерированный.

Правовые и этические дилеммы

• Баланс между прозрачностью и свободой слова: обязательная маркировка может быть использована для цензуры или дискредитации законного контента.
• Нагрузка на малый бизнес: требования к маркировке могут быть дорогостоящими для небольших платформ и создателей контента.
• Международная несовместимость: разные страны требуют разных форматов маркировки, что создаёт сложности для глобальных платформ.

Примеры реализации

Китай

С 2023 года в Китае действуют одни из самых строгих правил: все изображения, видео и аудио, созданные ИИ, должны иметь явную водяную метку. Платформы обязаны проверять контент на наличие таких меток перед публикацией. За нарушение предусмотрены штрафы до 100 000 юаней.

Европейский союз

AI Act (вступает в силу поэтапно с 2025 года) требует маркировки дипфейков, а также контента, который может повлиять на выборы или здоровье. Платформы обязаны предоставлять пользователям возможность сообщать о немаркированном контенте.

США

Федерального закона пока нет, но несколько штатов (например, Калифорния, Техас) ввели собственные требования. Крупные компании, такие как Google, Microsoft и OpenAI, добровольно внедряют маркировку через стандарт C2PA.

Перспективы

Ожидается, что к 2027 году маркировка контента ИИ станет обязательной в большинстве развитых стран. Развитие технологий (например, встраивание меток непосредственно в нейросеть на этапе генерации) может сделать маркировку более надёжной. В России планируется внедрение единой системы маркировки на базе стандарта C2PA к 2026 году.

Источники

• Федеральный закон от 24.07.2023 № 258-ФЗ «Об экспериментальных правовых режимах в сфере цифровых инноваций».
• Постановление Правительства РФ от 15.12.2023 № 1749 «Об утверждении Правил проведения экспериментального правового режима...».
• Проект методических рекомендаций Роскомнадзора по маркировке контента, созданного с использованием ИИ (2024).
• Закон Европейского союза об искусственном интеллекте (AI Act), 2024.
• Документы Коалиции за происхождение и подлинность контента (C2PA), версия 2.1, 2023.
• Отчёты OpenAI и Meta (организация признана экстремистской, деятельность запрещена в РФ) о внедрении маркировки (2022–2023).
• Публикации Центра компетенций НТИ «Искусственный интеллект» на базе МФТИ (2023–2024).