Акт об искусственном интеллекте

Акт об искусственном интеллекте (англ. Artificial Intelligence Act, AI Act) — нормативно-правовой акт Европейского союза, устанавливающий единые правила разработки, внедрения и использования систем искусственного интеллекта (ИИ) на территории ЕС. Принят Европейским парламентом 13 марта 2024 года и вступил в силу 1 августа 2024 года. Акт является первым в мире всеобъемлющим законом, регулирующим ИИ на основе оценки рисков, которые системы ИИ могут представлять для здоровья, безопасности и фундаментальных прав граждан.

История принятия

Разработка Акта об искусственном интеллекте началась в 2018 году, когда Европейская комиссия создала Группу экспертов высокого уровня по искусственному интеллекту. В апреле 2021 года Еврокомиссия опубликовала первый проект регламента. После трёх лет обсуждений, включая трилоги (переговоры между Европейской комиссией, Советом ЕС и Европейским парламентом), финальный текст был согласован в декабре 2023 года.

Голосование в Европарламенте прошло 13 марта 2024 года: 523 депутата проголосовали «за», 46 — «против», 49 воздержались. Совет ЕС утвердил акт 21 мая 2024 года. Официальная публикация в Официальном журнале ЕС состоялась 12 июля 2024 года, а вступление в силу — 1 августа 2024 года. Положения акта вводятся поэтапно: через 6 месяцев (февраль 2025 года) вступают в силу правила для ограниченного числа запрещённых практик; через 12 месяцев (август 2025 года) — нормы для моделей общего назначения; через 24 месяца (август 2026 года) — большинство остальных требований; через 36 месяцев (август 2027 года) — правила для систем с высоким риском в определённых сферах.

Цели и сфера действия

Основная цель Акта — создание единого правового поля для ИИ в ЕС, обеспечение безопасности и доверия к технологиям, а также стимулирование инноваций. Закон распространяется на всех поставщиков, развёртывателей (пользователей), импортёров и дистрибьюторов систем ИИ, чья продукция используется на территории ЕС, независимо от места их регистрации. Исключения составляют системы, используемые исключительно в военных, оборонных или национальных целях, а также исследовательские проекты до вывода продукта на рынок.

Риск-ориентированный подход

Акт классифицирует системы ИИ по четырём категориям риска, каждая из которых предполагает разный уровень регулирования:

1. Неприемлемый риск

Запрещённые практики, которые считаются угрозой фундаментальным правам. К ним относятся:

• системы социального скоринга (оценка граждан на основе их поведения или личных качеств);
• использование методов манипуляции поведением (например, субсенсорные воздействия);
• использование уязвимостей определённых групп (по возрасту, инвалидности, социально-экономическому положению);
• удалённая биометрическая идентификация в реальном времени в общедоступных местах правоохранительными органами (с узкими исключениями для террористических угроз или поиска пропавших);
• создание или расширение баз данных лиц с помощью нецелевого сбора изображений (например, из интернета или записей камер видеонаблюдения);
• системы предсказания преступлений на основе профилирования без объективных фактов;
• распознавание эмоций на рабочем месте и в учебных заведениях.

2. Высокий риск

Системы ИИ, которые могут существенно повлиять на здоровье, безопасность или фундаментальные права. К ним относятся:

• системы, используемые в продуктах, подлежащих регулированию ЕС (медицинские изделия, транспорт, игрушки);
• системы в критически важных сферах: биометрическая идентификация, управление критической инфраструктурой, образование, трудоустройство, доступ к услугам (включая кредитование и страхование), правоохранительная деятельность, миграция, правосудие.

Для таких систем обязательны:

• оценка соответствия (включая аудит алгоритмов);
• техническая документация;
• системы управления рисками;
• человеческий контроль;
• прозрачность и объяснимость;
• требования к данным (качество, репрезентативность, отсутствие дискриминации).

3. Ограниченный риск

Системы ИИ, которые взаимодействуют с людьми (например, чат-боты, системы распознавания эмоций, генераторы контента). Требования минимальны: пользователь должен быть уведомлён о том, что взаимодействует с ИИ. Также маркируется контент, созданный или изменённый с помощью ИИ (например, дипфейки).

4. Минимальный риск

Все остальные системы ИИ (например, спам-фильтры, рекомендательные алгоритмы в развлекательных целях). Они не подлежат дополнительному регулированию, но могут добровольно следовать кодексам поведения.

Регулирование моделей общего назначения

Особое внимание в Акте уделено моделям ИИ общего назначения (GPAI), таким как большие языковые модели (GPT, LLaMA, Gemini). Они классифицируются по системным рискам:

• Стандартные модели GPAI — обязаны соблюдать требования прозрачности: предоставлять техническую документацию, информацию о тренировочных данных, соблюдать авторские права.
• Модели GPAI с системным риском — модели, обученные на вычислительных мощностях свыше 10^25 FLOPs (флопс) или имеющие высокое влияние на внутренний рынок. Для них дополнительно требуются: оценка и смягчение рисков, тестирование модели, отчётность о серьёзных инцидентах, кибербезопасность.

Органы управления

Для надзора за исполнением Акта создана структура:

• Европейский совет по искусственному интеллекту (AI Board) — координирует национальные надзорные органы;
• Офис по искусственному интеллекту (AI Office) в составе Еврокомиссии — отвечает за регулирование моделей общего назначения;
• Национальные компетентные органы — контролируют соблюдение на уровне государств-членов ЕС;
• Научная группа независимых экспертов — консультирует по вопросам рисков.

Санкции и ответственность

За нарушение Акта предусмотрены штрафы:

• за использование запрещённых практик — до 35 миллионов евро или 7% от годового мирового оборота компании (в зависимости от того, что больше);
• за несоблюдение требований к системам высокого риска — до 15 миллионов евро или 3% от оборота;
• за предоставление неверной информации — до 7,5 миллионов евро или 1% от оборота.

Для малых и средних предприятий (МСП) и стартапов предусмотрены понижающие коэффициенты.

Критика и ограничения

Акт об искусственном интеллекте подвергается критике с разных сторон:

• Избыточность регулирования — некоторые эксперты считают, что жёсткие требования для систем высокого риска могут замедлить инновации и повысить барьеры для входа на рынок, особенно для стартапов.
• Неопределённость формулировок — ряд понятий (например, «системный риск», «манипуляция») остаются размытыми, что может привести к правовой неопределённости и разному толкованию в разных странах ЕС.
• Проблемы с правоприменением — для оценки соответствия систем ИИ требуются специалисты, которых в ЕС пока недостаточно. Это может создать дефицит надзорных ресурсов.
• Геополитические последствия — закон может усилить технологический разрыв между ЕС и странами с более либеральным регулированием (США, Китай), а также привести к переносу исследовательских центров за пределы ЕС.
• Ограниченный охват — акт не регулирует военные системы ИИ, а также не затрагивает вопросы ответственности за ущерб, причинённый ИИ (этот вопрос остаётся в ведении национального законодательства и будущей Директивы об ответственности за ИИ).

Влияние на международное регулирование

Акт об искусственном интеллекте стал ориентиром для других стран. В 2024 году Канада, Бразилия, Япония и Южная Корея начали разработку аналогичных законов. В Китае уже действуют отдельные нормативные акты для рекомендательных алгоритмов и генеративного ИИ (2023 год). В США федеральное регулирование ИИ пока отсутствует, но в октябре 2023 года был издан Указ президента о безопасном и надёжном развитии ИИ, а ряд штатов (Калифорния, Колорадо) приняли собственные законы.

В России на момент принятия Акта отсутствует единый закон об ИИ. Регулирование осуществляется через национальную стратегию развития искусственного интеллекта до 2030 года (утверждена указом президента в 2019 году), а также экспериментальные правовые режимы (например, для беспилотных автомобилей и медицинских ИИ-систем).

Источники

• Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union, 12 July 2024.
• Proposal for a Regulation of the European Parliament and of the Council on a European approach for artificial intelligence (COM/2021/206 final). European Commission, 21 April 2021.
• European Commission. AI Act: Questions and Answers. Brussels, 2024.
• European Parliament. Artificial Intelligence Act: landmark rules for safe and transparent AI. Press release, 13 March 2024.
• High-Level Expert Group on Artificial Intelligence. Ethics Guidelines for Trustworthy AI. European Commission, 2019.
• Veale, M., Borgesius, F. Z. Demystifying the Draft EU Artificial Intelligence Act. Computer Law Review International, 2021.
• Smuha, N. A. The EU’s AI Act: A Framework for Trustworthy AI. European Law Review, 2023.