Правила управления генеративным искусственным интеллектом

Правила управления генеративным искусственным интеллектом — это совокупность нормативных правовых актов, отраслевых стандартов, этических кодексов и технических регламентов, устанавливающих порядок разработки, внедрения и использования систем, способных создавать контент (текст, изображения, аудио, видео, код) на основе генеративных моделей. Данные правила направлены на минимизацию рисков, связанных с распространением дезинформации, нарушением авторских прав, дискриминацией, угрозой национальной безопасности и утратой контроля над технологией.

История формирования

Первые попытки регулирования искусственного интеллекта (ИИ) общего назначения начались в конце 2010-х годов, однако взрывной рост популярности генеративных моделей (например, ChatGPT от компании OpenAI, Midjourney, Stable Diffusion) в 2022—2023 годах потребовал создания специализированных правил. До этого момента правовое поле в большинстве стран ограничивалось общими законами о защите данных (например, GDPR в Европейском союзе) и авторском праве.

Ключевым событием стало появление в 2023 году первого в мире комплексного закона об ИИ — AI Act Европейского союза, который вступил в силу поэтапно с 2024 года. В нём генеративные системы были отнесены к категории «общего назначения» (General Purpose AI) с особыми требованиями к прозрачности. В России в 2023—2024 годах был принят ряд подзаконных актов и рекомендаций, в том числе в рамках национальной стратегии развития ИИ до 2030 года. В Китае в 2023 году вступили в силу «Временные меры по управлению генеративным искусственным интеллектом», ставшие одним из самых жёстких национальных регуляторных режимов.

Классификация правил

Правила управления генеративным ИИ можно разделить на несколько категорий в зависимости от сферы действия и механизма реализации.

По уровню обязательности

• Императивные (законодательные) — законы и подзаконные акты, нарушение которых влечёт административную или уголовную ответственность. Пример: запрет на использование генеративных моделей для создания дипфейков без согласия изображённых лиц.
• Рекомендательные (мягкое право) — кодексы этики, отраслевые стандарты, добровольные обязательства разработчиков. Пример: «Кодекс этики в сфере ИИ», принятый в России в 2021 году и обновлённый в 2023 году.
• Технические (стандарты) — спецификации, протоколы тестирования, требования к маркировке контента. Пример: стандарт ISO/IEC 42001:2023 «Системы искусственного интеллекта — Менеджмент».

По объекту регулирования

• Правила для разработчиков — требования к обучению моделей (легальность датасетов, отсутствие предвзятости), тестированию безопасности, документированию.
• Правила для поставщиков (платформ) — обязанность предоставлять API для проверки контента, маркировать сгенерированные материалы, удалять незаконный контент.
• Правила для пользователей — запрет на использование моделей для создания вредоносного ПО, мошенничества, дискредитации органов власти (в РФ — с учётом законодательства об экстремизме).

Основные требования

Маркировка контента

Одно из центральных требований — обязательное указание на то, что текст, изображение, аудио или видео созданы с помощью генеративного ИИ. В ЕС (AI Act) это касается всех систем, взаимодействующих с людьми. В Китае маркировка должна быть «явной и заметной». В России с 2024 года действует рекомендация Роскомнадзора маркировать контент, созданный с помощью ИИ, при его распространении в интернете.

Прозрачность и документирование

Разработчики обязаны предоставлять регуляторам и пользователям информацию:

• об архитектуре модели,
• об обучающих данных (источники, объём, методы фильтрации),
• о мерах по снижению рисков (фильтрация вредоносных запросов, защита от «джейлбрейков»),
• о результатах тестирования на безопасность.

В ЕС для систем общего назначения требуется составлять «паспорт модели» (model card) и публиковать краткое описание используемых данных.

Защита авторских прав

Генеративные модели часто обучаются на материалах, защищённых авторским правом, что порождает споры. Правила управления требуют:

• использования только легально приобретённых или находящихся в открытом доступе данных,
• предоставления механизма opt-out (возможности правообладателя запретить использование своих произведений),
• в ряде юрисдикций — выплаты компенсации авторам (например, во Франции и Германии обсуждается введение «налога на ИИ»).

В России действует Гражданский кодекс, который признаёт автором только человека, поэтому результаты работы генеративного ИИ не охраняются авторским правом, если не доказан творческий вклад пользователя.

Безопасность и недискриминация

Запрещается обучение моделей на данных, содержащих призывы к насилию, экстремизму, терроризму, порнографию с участием несовершеннолетних. Разработчики обязаны тестировать модели на предвзятость (bias) по признакам пола, расы, возраста, религии и принимать меры по её снижению. В России дополнительно действуют требования по фильтрации контента, противоречащего законодательству (например, о дискредитации Вооружённых сил РФ).

Региональные особенности

Европейский союз

AI Act (2024) устанавливает жёсткую классификацию рисков: неприемлемый (запрещён), высокий (строгое регулирование), ограниченный (маркировка) и минимальный. Генеративные модели общего назначения отнесены к категории «ограниченного риска», но с дополнительными требованиями к прозрачности. За нарушение — штраф до 7 % от мирового оборота компании.

Китай

Временные меры (2023) требуют обязательного одобрения моделей перед выпуском на рынок, соответствия «социалистическим основным ценностям» и запрета на генерацию контента, подрывающего государственную безопасность. Все данные для обучения должны проходить проверку на законность.

США

Федеральное законодательство отсутствует; регулирование осуществляется через указы президента (например, Executive Order on Safe, Secure, and Trustworthy AI, 2023) и отраслевые добровольные обязательства (AI Safety Commitments). Отдельные штаты (Калифорния, Нью-Йорк) вводят собственные законы о маркировке и защите данных.

Россия

Основой является Указ Президента РФ от 10 октября 2019 года № 490 «О развитии искусственного интеллекта в РФ» и Национальная стратегия развития ИИ до 2030 года. В 2023 году приняты поправки в КоАП, устанавливающие ответственность за распространение фейков, созданных с помощью ИИ. Рекомендации по маркировке и этические нормы закреплены в «Кодексе этики в сфере ИИ» (Альянс в сфере ИИ, 2023). Прямого закона о генеративном ИИ пока нет, но действуют общие нормы о защите информации (ФЗ «Об информации, информационных технологиях и о защите информации»).

Критика и вызовы

Основные претензии к существующим правилам управления:

• Чрезмерная жёсткость (особенно в Китае) замедляет инновации и вынуждает разработчиков уходить в «серые» юрисдикции.
• Недостаточная конкретика — многие нормы носят рамочный характер, что порождает правовую неопределённость.
• Проблема экстерриториальности — модели, обученные в одной стране, используются по всему миру, что затрудняет применение национальных законов.
• Техническая сложность контроля — невозможно полностью автоматически проверить, какой контент сгенерирован ИИ, а какой — человеком.
• Риск цензуры — требования маркировки и фильтрации могут использоваться для ограничения свободы слова.

Перспективы развития

Ожидается, что к 2026—2027 годам большинство крупных экономик примут национальные законы о генеративном ИИ. Ведутся переговоры о создании международного договора (по аналогии с Парижским соглашением по климату), однако из-за геополитических разногласий прогресс пока незначителен. В России обсуждается введение обязательной сертификации генеративных моделей перед выводом на рынок, а также создание единого реестра легальных датасетов.

Источники

• Regulation (EU) 2024/1689 of the European Parliament and of the Council (AI Act)
• Временные меры по управлению генеративным искусственным интеллектом (КНР, 2023)
• Указ Президента РФ от 10.10.2019 № 490 «О развитии искусственного интеллекта в РФ»
• Кодекс этики в сфере искусственного интеллекта (Альянс в сфере ИИ, 2023)
• ISO/IEC 42001:2023 «Information technology — Artificial intelligence — Management system»
• Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence (США, 2023)
• Федеральный закон от 27.07.2006 № 149-ФЗ «Об информации, информационных технологиях и о защите информации»