Обработка персональных данных с использованием ИИ

Обработка персональных данных с использованием ИИ — это совокупность действий (операций), совершаемых с персональными данными с применением технологий искусственного интеллекта (ИИ), включая системы машинного обучения, нейронные сети, алгоритмы обработки естественного языка и компьютерного зрения. Данный вид обработки предполагает автоматизированное или автоматическое совершение таких операций, как сбор, запись, систематизация, накопление, хранение, уточнение (обновление, изменение), извлечение, использование, передача (распространение, предоставление, доступ), обезличивание, блокирование, удаление и уничтожение персональных данных, при котором ключевые решения или сама обработка осуществляются алгоритмами без непосредственного участия человека на всех этапах.

Правовое регулирование

Законодательство Российской Федерации

В Российской Федерации обработка персональных данных регулируется Федеральным законом от 27 июля 2006 года № 152-ФЗ «О персональных данных». Согласно статье 3, персональные данные — любая информация, относящаяся к прямо или косвенно определенному или определяемому физическому лицу (субъекту персональных данных). Обработка с использованием ИИ не выделена в отдельную категорию, но подпадает под общие требования закона, включая:

• Принципы обработки: законность, справедливость, ограничение обработки конкретными, заранее определенными и законными целями, недопустимость обработки, несовместимой с целями сбора, обеспечение точности и достаточности данных.
• Согласие субъекта: обработка допускается только с согласия субъекта (статья 9), за исключением случаев, прямо предусмотренных законом (например, для исполнения договора, защиты жизни, осуществления правосудия).
• Автоматизированная обработка: закон не запрещает автоматизированную обработку, но требует, чтобы решения, порождающие юридические последствия в отношении субъекта (например, отказ в кредите, приеме на работу), принимались на основании всесторонней оценки соответствующих данных и не могли основываться исключительно на автоматизированной обработке (статья 16). Субъект имеет право потребовать пересмотра такого решения человеком.
• Трансграничная передача: передача персональных данных за пределы РФ требует выполнения дополнительных условий, включая уведомление Роскомнадзора и обеспечение адекватной защиты прав субъектов в стране-получателе.
• Локализация данных: с 1 сентября 2015 года (Федеральный закон от 21 июля 2014 года № 242-ФЗ) операторы обязаны при сборе персональных данных граждан РФ обеспечивать их запись, систематизацию, накопление, хранение, уточнение (обновление, изменение) и извлечение с использованием баз данных, находящихся на территории РФ. Обработка с использованием ИИ, если она включает указанные операции, должна осуществляться с использованием серверов, расположенных в России.

Международное регулирование

На международном уровне ключевым документом является Общий регламент по защите данных (GDPR) Европейского союза, вступивший в силу 25 мая 2018 года. GDPR устанавливает строгие требования к автоматизированной обработке и профилированию (статья 22), включая право субъекта не подвергаться решению, основанному исключительно на автоматизированной обработке, если оно порождает юридические последствия или существенно затрагивает его интересы. Также GDPR требует проведения оценки воздействия на защиту данных (Data Protection Impact Assessment, DPIA) для обработки, которая с высокой вероятностью создает риски для прав и свобод физических лиц, в том числе при использовании новых технологий, таких как ИИ.

В 2024 году Европейский союз принял Акт об искусственном интеллекте (AI Act), который вводит риск-ориентированный подход к регулированию ИИ. Системы ИИ, используемые для обработки персональных данных, классифицируются по уровню риска: неприемлемый (запрещен), высокий (строгие требования), ограниченный (прозрачность) и минимальный. К высокорисковым относятся системы, применяемые в биометрической идентификации, критической инфраструктуре, образовании, трудоустройстве, доступе к услугам и правоприменении.

Технологические аспекты

Этапы обработки с использованием ИИ

1. Сбор данных: ИИ-системы могут собирать персональные данные из различных источников: веб-сайтов, мобильных приложений, датчиков Интернета вещей (IoT), социальных сетей, государственных баз данных. Сбор может быть явным (пользователь вводит данные) или неявным (отслеживание поведения, геолокация, cookie-файлы).
2. Предобработка: данные очищаются от ошибок, дубликатов, приводятся к единому формату. На этом этапе может проводиться обезличивание (удаление или замена прямых идентификаторов, таких как ФИО, паспортные данные, на псевдонимы).
3. Обучение модели: на размеченных или неразмеченных данных обучается модель машинного обучения. Для задач классификации, регрессии, кластеризации, генерации используются различные алгоритмы (нейронные сети, деревья решений, метод опорных векторов). Обучение требует больших объемов данных, что создает риски утечки и нецелевого использования.
4. Инференс (применение): обученная модель обрабатывает новые персональные данные для получения прогнозов, рекомендаций, классификаций. Например, скоринговая модель банка оценивает кредитоспособность клиента на основе его истории платежей, доходов, возраста.
5. Постобработка: результаты обработки могут быть интерпретированы, визуализированы, переданы человеку-оператору или другой системе. На этом этапе может потребоваться объяснение принятого решения (Explainable AI, XAI).

Виды ИИ-систем, используемых для обработки

• Системы распознавания образов: компьютерное зрение для идентификации лиц, объектов, номеров автомобилей. Используются в системах видеонаблюдения, биометрической аутентификации.
• Системы обработки естественного языка (NLP): анализ текстов, голосовых команд, чат-боты. Применяются для автоматической обработки обращений, анализа отзывов, модерации контента.
• Рекомендательные системы: алгоритмы коллаборативной и контентной фильтрации. Используются в электронной коммерции, стриминговых сервисах, социальных сетях для персонализации контента и рекламы.
• Предиктивные модели: прогнозирование поведения, рисков, предпочтений. Применяются в страховании, здравоохранении, маркетинге.

Риски и проблемы

Нарушение конфиденциальности

Использование ИИ может привести к утечке персональных данных из-за ошибок в алгоритмах, атак на модели (например, инверсионные атаки, позволяющие восстановить исходные данные по выходным параметрам модели), недостаточной защиты баз данных. Даже обезличенные данные могут быть деанонимизированы с помощью ИИ, что было продемонстрировано в ряде исследований (например, восстановление личностей по анонимным данным о передвижении).

Дискриминация и предвзятость

Модели ИИ могут наследовать и усиливать предвзятость, присутствующую в обучающих данных. Это может привести к дискриминации по признакам пола, возраста, расы, национальности, социального статуса. Например, алгоритмы найма могут отдавать предпочтение мужчинам, если исторические данные показывают, что на руководящие должности чаще нанимали мужчин. В России примером может служить риск дискриминации при автоматизированном принятии решений в сфере кредитования или трудоустройства.

Отсутствие прозрачности и объяснимости

Многие современные модели ИИ, особенно глубокие нейронные сети, работают по принципу «черного ящика»: их решения сложно интерпретировать и объяснить. Это противоречит праву субъекта знать, на основании каких данных и алгоритмов было принято решение, затрагивающее его интересы. Развитие области объяснимого ИИ (XAI) направлено на решение этой проблемы.

Автоматизированное принятие решений

Как указано в законодательстве РФ, решения, порождающие юридические последствия, не могут основываться исключительно на автоматизированной обработке. Однако на практике грань между «автоматизированным» и «автоматическим» решением может быть размыта. Например, система может рекомендовать отказ в кредите, а человек-оператор лишь формально утверждает его. Это создает риски для прав субъектов.

Примеры применения

Здравоохранение

ИИ используется для анализа медицинских изображений (рентген, МРТ, КТ) для диагностики заболеваний, прогнозирования течения болезней, подбора персонализированного лечения. Обработка персональных данных (история болезни, генетические данные, результаты анализов) требует строгого соблюдения врачебной тайны и законодательства о персональных данных.

Финансовый сектор

Банки и страховые компании применяют ИИ для скоринга, обнаружения мошенничества, персонализации предложений. Модели анализируют транзакции, кредитные истории, поведенческие паттерны. Обработка данных клиентов регулируется законом и требует согласия.

Государственные услуги

В России внедряются системы ИИ для предоставления государственных услуг, например, в портале «Госуслуги» для автоматической обработки заявлений, проверки документов. Использование биометрических данных (Единая биометрическая система) для идентификации граждан также подпадает под регулирование.

Меры защиты

Технические меры

• Шифрование данных при хранении и передаче.
• Обезличивание и псевдонимизация данных до обучения модели.
• Дифференциальная конфиденциальность — добавление шума в данные, чтобы предотвратить восстановление информации о конкретном субъекте.
• Федеративное обучение — обучение модели на распределенных данных без их централизованного сбора.
• Аудит алгоритмов на предмет предвзятости и ошибок.

Организационные меры

• Назначение ответственного за обработку персональных данных (в соответствии с законом).
• Проведение оценки воздействия на защиту данных (DPIA) перед внедрением ИИ-систем.
• Разработка политик обработки данных и информирование субъектов.
• Обучение персонала правилам обработки и защиты данных.

Критика и дискуссии

Основные дискуссии вокруг обработки персональных данных с использованием ИИ касаются баланса между инновациями и защитой прав граждан. Критики указывают на недостаточность существующего законодательства для регулирования быстро развивающихся технологий, а также на сложность контроля за соблюдением требований в условиях глобализации данных. В России обсуждается необходимость ужесточения ответственности за утечки данных и введения обязательной сертификации ИИ-систем, обрабатывающих персональные данные.

Источники

1. Федеральный закон от 27.07.2006 № 152-ФЗ «О персональных данных».
2. Федеральный закон от 21.07.2014 № 242-ФЗ «О внесении изменений в отдельные законодательные акты Российской Федерации в части уточнения порядка обработки персональных данных в информационно-телекоммуникационных сетях».
3. General Data Protection Regulation (GDPR) — Regulation (EU) 2016/679.
4. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act).
5. Методические рекомендации Роскомнадзора по вопросам обработки персональных данных с использованием искусственного интеллекта (2023).
6. Доклад «Искусственный интеллект и защита персональных данных» (Институт развития информационного общества, 2022).