Executive Order on Safe, Secure, and Trustworthy AI¶

Executive Order on Safe, Secure, and Trustworthy AI — это указ президента США, подписанный 30 октября 2023 года, который устанавливает комплекс мер по регулированию разработки и использования систем искусственного интеллекта (ИИ). Документ направлен на обеспечение безопасности, защиты конфиденциальности, гражданских прав и национальной безопасности при внедрении технологий ИИ в США. Указ вводит обязательные требования для разработчиков мощных ИИ-моделей, создаёт новые стандарты тестирования и отчётности, а также координирует действия федеральных агентств.

¶История и контекст

Указ стал ответом на стремительное развитие генеративных ИИ-моделей (например, ChatGPT от OpenAI, Gemini от Google), которые к 2023 году продемонстрировали способность создавать реалистичный контент, включая текст, изображения и код. Рост возможностей ИИ вызвал обеспокоенность по поводу потенциальных рисков: дезинформация, нарушение авторских прав, углубление социального неравенства, кибератаки и применение в военных целях.

Предшествующие инициативы включали «Акт об ответственном использовании ИИ» (2022 год) и добровольные обязательства ведущих IT-компаний (июль 2023 года), но они носили рекомендательный характер. Указ 2023 года стал первым в истории США юридически обязывающим документом такого масштаба, затрагивающим все ключевые аспекты ИИ-индустрии. Подписание указа совпало с проведением в Великобритании первого глобального саммита по безопасности ИИ (AI Safety Summit), где обсуждались аналогичные меры.

¶Основные положения указа

Указ состоит из восьми ключевых направлений, каждое из которых содержит конкретные поручения федеральным ведомствам.

¶1. Новые стандарты безопасности для ИИ

Разработчики мощных ИИ-моделей (с вычислительной мощностью более 10^26 операций с плавающей запятой в секунду) обязаны:

Проводить тестирование безопасности («red-teaming») и делиться результатами с Министерством торговли США.
Сообщать о любых инцидентах, связанных с безопасностью, включая утечки данных или несанкционированное использование.
Предоставлять правительству доступ к исходным кодам и весам моделей для аудита.

Национальный институт стандартов и технологий (NIST) получил задание разработать единые протоколы тестирования ИИ, включая оценку рисков для кибербезопасности, биологии и химии.

¶2. Защита гражданских прав

Указ поручает Министерству юстиции и Федеральной торговой комиссии (FTC) усилить контроль за использованием ИИ в системах, затрагивающих гражданские свободы:

Запрет на использование ИИ для дискриминации при найме, кредитовании, аренде жилья и доступе к медицинским услугам.
Разработка рекомендаций для судов по оценке доказательств, полученных с помощью ИИ.
Создание механизма для подачи жалоб на алгоритмическую дискриминацию.

¶3. Поддержка конкуренции и инноваций

Для стимулирования развития ИИ в США указ предусматривает:

Упрощение визового режима для высококвалифицированных специалистов в области ИИ.
Создание Национального исследовательского ресурса по ИИ (NAIRR) — сети вычислительных мощностей и данных для академических и некоммерческих проектов.
Выделение грантов на разработку ИИ в сферах здравоохранения, климатологии и образования.

¶4. Защита конфиденциальности

Указ требует от федеральных агентств:

Оценить риски сбора и использования данных ИИ-системами, особенно в контексте биометрической идентификации.
Разработать руководства по анонимизации данных для обучения моделей.
Ужесточить контроль за использованием ИИ в системах наблюдения, включая запрет на массовое распознавание лиц без судебного ордера.

¶5. Национальная безопасность и оборона

Министерство обороны и Министерство национальной безопасности получили задание:

Создать систему оценки рисков использования ИИ в военных целях (автономные системы вооружений, кибероперации).
Разработать стандарты для ИИ в системах управления ядерным оружием — запрет на автоматическое принятие решений о запуске.
Усилить защиту критической инфраструктуры (энергосети, транспорт) от ИИ-атак.

¶6. Международное сотрудничество

Указ предписывает:

Поддержку глобальных инициатив по регулированию ИИ, включая «Глобальное партнёрство по ИИ» (GPAI) и «Акт об ИИ» Евросоюза.
Разработку совместных с союзниками (Великобритания, Япония, Канада) протоколов безопасности.
Запрет на экспорт мощных ИИ-моделей в страны, представляющие угрозу национальной безопасности США (в частности, Китай и Россия).

¶7. Прозрачность и отчётность

Все федеральные агентства обязаны:

Публиковать отчёты об использовании ИИ в своей деятельности.
Создать общедоступный реестр ИИ-систем, используемых правительством.
Проводить аудит алгоритмов на предмет предвзятости и ошибок.

¶8. Образование и подготовка кадров

Указ предусматривает:

Создание стипендиальных программ для студентов, изучающих ИИ и кибербезопасность.
Разработку курсов по этике ИИ для госслужащих.
Поддержку программ переквалификации для работников, чьи профессии могут быть автоматизированы.

¶Критика и реакция

Указ получил неоднозначную оценку. Сторонники (включая часть IT-сообщества и правозащитные организации) приветствовали его как первый шаг к ответственному регулированию, отмечая акцент на безопасности и гражданских правах. Противники, в том числе лидеры крупных технологических компаний (Илон Маск, Сэм Альтман), выразили опасения, что требования к отчётности и тестированию могут замедлить инновации и создать бюрократические барьеры. Некоторые эксперты указали на отсутствие чётких механизмов принуждения и возможное дублирование функций между агентствами.

Республиканские политики критиковали указ за излишнее вмешательство государства в частный сектор, а демократы — за недостаточную жёсткость в отношении алгоритмической дискриминации. В ответ на указ ряд компаний (OpenAI, Google, Meta — организация признана экстремистской и запрещена в РФ) объявили о создании собственных добровольных комитетов по безопасности ИИ.

¶Влияние на международное регулирование

Указ стал частью глобальной тенденции по регулированию ИИ. В декабре 2023 года Евросоюз принял «Акт об ИИ» (AI Act), который вводит классификацию ИИ-систем по уровню риска (неприемлемый, высокий, ограниченный, минимальный) и запрещает определённые виды использования (например, социальный рейтинг). Китай в 2023 году выпустил собственные правила для генеративных ИИ, требующие одобрения властей для вывода моделей на рынок. Россия в 2024 году приняла «Концепцию развития регулирования ИИ», которая предусматривает создание системы сертификации и обязательное тестирование для систем, используемых в государственных органах.

¶Источники

White House. «Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence». October 30, 2023.
National Institute of Standards and Technology (NIST). «AI Risk Management Framework». January 2023.
Congressional Research Service. «Artificial Intelligence: Overview of Federal Policy». November 2023.
European Commission. «The EU AI Act». December 2023.
The New York Times. «Biden Signs Executive Order to Create A.I. Safeguards». October 30, 2023.
Reuters. «US tech companies pledge to test AI systems for safety». July 21, 2023.

Заметили ошибку или не согласны с информацией в статье? Напишите нам support@bfometr.ru