Закон об искусственном интеллекте¶

Закон об искусственном интеллекте (англ. Artificial Intelligence Act, AI Act) — нормативный правовой акт Европейского союза, устанавливающий единые правила разработки, внедрения и использования систем искусственного интеллекта (ИИ) на территории ЕС. Принят в 2024 году, является первым в мире всеобъемлющим законом, регулирующим ИИ на основе оценки рисков. Закон вводит классификацию систем ИИ по четырём уровням опасности, запрещает определённые практики и устанавливает требования к прозрачности, безопасности и подотчётности.

¶История принятия

Разработка Закона об ИИ началась в 2018 году, когда Европейская комиссия создала Группу экспертов высокого уровня по искусственному интеллекту. В апреле 2021 года Еврокомиссия опубликовала первоначальный проект регламента. После длительных переговоров между Европейским парламентом и Советом ЕС политическое соглашение было достигнуто в декабре 2023 года. Окончательный текст утверждён Европарламентом 13 марта 2024 года и Советом ЕС 21 мая 2024 года. Вступление в силу состоялось 1 августа 2024 года, с поэтапным применением положений до 2027 года.

¶Классификация систем ИИ по уровню риска

Закон делит системы ИИ на четыре категории в зависимости от потенциального вреда для здоровья, безопасности и фундаментальных прав человека.

¶Запрещённые практики (неприемлемый риск)

К этой категории относятся системы, использование которых полностью запрещено на территории ЕС. Запрет вступил в силу 2 февраля 2025 года. Включает:

• Социальный скоринг — оценка или классификация людей на основе их поведения, социального статуса или личных характеристик государственными органами, если это ведёт к неблагоприятному обращению.
• Биометрическая категоризация — системы, делающие выводы о pace, политических взглядах, религиозной принадлежности, сексуальной ориентации на основе биометрических данных.
• Удалённая биометрическая идентификация в реальном времени в общедоступных местах правоохранительными органами, за исключением строго ограниченных случаев (поиск пропавших детей, предотвращение террористической угрозы, расследование тяжких преступлений) с судебным разрешением.
• Сбор изображений лиц из интернета или записей с камер видеонаблюдения для создания баз данных (например, для распознавания лиц).
• Манипулятивные системы — ИИ, использующий подсознательные или уязвимые приёмы для существенного искажения поведения человека.
• Оценка риска совершения преступления на основе исключительно профилирования или личностных черт.
• Распознавание эмоций на рабочем месте и в образовательных учреждениях.

¶Системы высокого риска

Включают системы, которые могут существенно повлиять на безопасность или фундаментальные права. Подразделяются на две группы:

1. Системы, являющиеся компонентами продуктов, подлежащих обязательной оценке соответствия (например, медицинские изделия, лифты, оборудование для атомных станций).
2. Автономные системы высокого риска в следующих областях:

• Биометрическая идентификация и категоризация физических лиц.
• Управление критической инфраструктурой (дорожное движение, водоснабжение, электросети).
• Образование и профессиональное обучение (приём студентов, оценка знаний).
• Трудоустройство, управление персоналом, доступ к самозанятости (отбор резюме, мониторинг сотрудников).
• Доступ к основным частным и публичным услугам (кредитование, страхование, социальные пособия).
• Правоохранительная деятельность (оценка достоверности доказательств, прогнозирование преступности).
• Управление миграцией, предоставление убежища, пограничный контроль.
• Отправление правосудия и демократические процессы (принятие судебных решений, анализ выборов).

Для таких систем установлены обязательные требования:

• Внедрение системы управления рисками на протяжении всего жизненного цикла.
• Использование высококачественных наборов данных, репрезентативных и свободных от ошибок.
• Подробная техническая документация и журналы регистрации событий.
• Прозрачность и предоставление информации пользователям.
• Человеческий надзор (возможность оператора отменить или переопределить решение ИИ).
• Высокий уровень точности, надёжности и кибербезопасности.

Перед выпуском на рынок системы высокого риска должны пройти оценку соответствия. Для большинства из них требуется нотифицированный орган (третья сторона), для некоторых — самодекларация разработчика.

¶Системы ограниченного риска

Включают системы, взаимодействующие с людьми (например, чат-боты), системы генерации изображений, аудио или видео (дипфейки), а также системы распознавания эмоций и биометрической категоризации (если они не относятся к высокому риску). Основное требование — обеспечение прозрачности: пользователь должен быть уведомлён о том, что взаимодействует с ИИ, а контент, созданный ИИ, должен быть маркирован.

¶Минимальный риск

Все остальные системы ИИ, не подпадающие под предыдущие категории (например, спам-фильтры, видеоигры, рекомендательные алгоритмы). Для них не устанавливается обязательных требований, но поощряется принятие добровольных кодексов поведения.

¶Требования к системам общего назначения (GPAI)

Отдельный раздел посвящён моделям ИИ общего назначения (General-Purpose AI, GPAI) — фундаментальным моделям, способным выполнять широкий спектр задач (например, GPT, LLaMA, Gemini). Для них установлены:

• Обязательства по прозрачности: публикация подробного резюме об обучающих данных, соблюдение авторских прав, политика добросовестного использования.
• Дополнительные требования для систем с системным риском: модели, обученные на вычислительных мощностях более 10²⁵ FLOP (флопс), подлежат оценке безопасности, тестированию, отчётности об инцидентах и кибербезопасности. Разработчики таких моделей должны сотрудничать с Европейским офисом по ИИ.

¶Управление и правоприменение

Создана многоуровневая система управления:

• Европейский офис по искусственному интеллекту (European AI Office) — центральный орган при Европейской комиссии, отвечающий за надзор за GPAI, координацию и разработку стандартов.
• Европейский совет по искусственному интеллекту (European AI Board) — консультативный орган из представителей государств-членов ЕС.
• Форум по искусственному интеллекту (AI Forum) — площадка для участия заинтересованных сторон (промышленность, академические круги, гражданское общество).
• Национальные компетентные органы — в каждом государстве-члене ЕС создаются органы по надзору за соблюдением закона.

Штрафы за нарушение:

• За использование запрещённых практик — до 35 млн евро или 7 % от мирового годового оборота (в зависимости от того, что больше).
• За нарушение требований к системам высокого риска или GPAI — до 15 млн евро или 3 % от оборота.
• За предоставление неверной информации — до 7,5 млн евро или 1 % от оборота.

¶Критика и ограничения

Закон об ИИ подвергается критике по нескольким направлениям:

• Сложность и бюрократизация — малые и средние предприятия (МСП) опасаются высоких затрат на соответствие требованиям, что может замедлить инновации.
• Недостаточная определённость — многие формулировки (например, «существенный риск», «уязвимые приёмы») оставляют пространство для интерпретации, что может привести к судебным спорам.
• Исключения для правоохранительных органов — криптографы и правозащитники отмечают, что разрешение на использование удалённой биометрической идентификации в реальном времени (пусть и с ограничениями) создаёт риск злоупотреблений.
• Отсутствие регулирования алгоритмической дискриминации — закон фокусируется на рисках, но не вводит механизмов компенсации для лиц, пострадавших от решений ИИ.
• Глобальное влияние — некоторые эксперты (например, профессор права Йельского университета Джек Балкин) считают, что закон может стать «брюссельским эффектом», навязывая европейские стандарты всему миру, что не всегда учитывает местные особенности.

¶Влияние на международное регулирование

Принятие Закона об ИИ стимулировало другие страны к разработке собственных нормативных актов. В США в 2023 году был издан указ президента о безопасном и надёжном ИИ, а в 2024 году — Executive Order on AI. Китай принял ряд отраслевых законов (о рекомендательных алгоритмах, о синтетическом контенте, о генеративном ИИ). В России в 2023 году утверждён Кодекс этики в сфере ИИ, а также разрабатывается проект федерального закона «Об искусственном интеллекте», который, по заявлениям Минэкономразвития, может учитывать подходы ЕС, но с акцентом на стимулирование инноваций.

¶См. также

• Искусственный интеллект
• Регулирование искусственного интеллекта
• Кодекс этики в сфере искусственного интеллекта (Россия)

¶Источники

• Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence. Official Journal of the European Union, 12.07.2024.
• European Commission. Proposal for a Regulation on a European approach for Artificial Intelligence. COM(2021) 206 final, 21.04.2021.
• European Parliament. Artificial Intelligence Act: landmark deal on rules for AI. Press release, 09.12.2023.
• Council of the EU. Artificial Intelligence (AI) Act: Council gives final green light. Press release, 21.05.2024.
• Floridi, L. (2021). The European Legislation on AI: A Brief Analysis of Its Philosophical Approach. Philosophy & Technology, 34, 215–222.
• Veale, M., & Borgesius, F. Z. (2021). Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International, 22(4), 97–112.