Управление жизненным циклом данных
Управление жизненным циклом данных (англ. Data Lifecycle Management, DLM) — это стратегический подход к организации хранения, обработки и удаления данных на протяжении всего времени их существования, от момента создания до окончательного уничтожения. Основная цель DLM заключается в обеспечении доступности, целостности, безопасности и экономической эффективности данных в каждый момент их использования в соответствии с бизнес-требованиями и нормативными предписаниями.
История и предпосылки возникновения
Концепция управления жизненным циклом данных сформировалась в конце 1990-х — начале 2000-х годов. Рост объёмов корпоративной информации, появление жёстких требований к хранению и защите данных (например, Закон Сарбейнса-Оксли в США, Федеральный закон № 152-ФЗ «О персональных данных» в России), а также увеличение стоимости инфраструктуры привели к необходимости системного подхода. Ранее управление данными часто ограничивалось их первичным размещением и резервным копированием. DLM предложило непрерывный цикл, включающий миграцию устаревших данных на более дешёвые носители и их своевременное удаление, что позволило снизить затраты на хранение на 30–50% по некоторым оценкам.
Этапы жизненного цикла данных
Несмотря на различия в моделях, большинство реализаций DLM выделяют от четырёх до семи основных этапов. Классическая схема включает в себя следующие фазы:
### Создание и первичная запись
Данные появляются в результате деятельности организации: ручного ввода, автоматической генерации приложениями, импорта из внешних систем или сбора с датчиков и устройств (Интернет вещей). На этом этапе фиксируются метаданные, устанавливаются права доступа и определяется первоначальная политика хранения. Ошибки на этой стадии, такие как некорректная маркировка, могут осложнить весь последующий процесс управления.
### Хранение и защита
Этап предполагает размещение данных на физических или облачных носителях. Ключевой задачей на данном этапе является обеспечение целостности и конфиденциальности: применяются механизмы резервного копирования, репликации, контроля доступа (ролевые модели), шифрования как на стороне хранения, так и при передаче. В России этот этап напрямую регулируется требованиями по сертификации средств защиты информации, используемых для обработки персональных данных (ФСБ России, ФСТЭК России).
### Использование и обновление
Наиболее активная фаза, в ходе которой данные многократно читаются, изменяются, комбинируются и анализируются. Системы DLM в этот период обеспечивают быстрый доступ (часто с требованиями по времени отклика в миллисекундах) и поддержку транзакционной согласованности. Для повышения производительности применяется кэширование и оптимизация запросов. Параллельно фиксируются версии изменений (аудит), что важно для восстановления и контроля соответствия нормативам.
### Миграция и архивирование
Со временем частота использования данных снижается (данные «охлаждаются»). Для снижения затрат на хранение информация перемещается с быстрых (дорогих) носителей (SSD, RAID-массивы на жёстких дисках) на более дешёвые: ленточные библиотеки, облачные архивные хранилища или объектные хранилища с холодным доступом. При этом данные остаются доступными для поиска, но время доступа увеличивается (от нескольких секунд до нескольких часов). Архивирование также служит целям выполнения нормативных требований: например, финансовая отчётность в России должна храниться не менее 5 лет, а документы по личному составу — 75 или 50 лет в зависимости от даты создания.
### Удаление (уничтожение)
Финальный этап, когда данные утрачивают свою актуальность или срок их хранения истекает. Уничтожение должно быть безвозвратным, для чего применяются методы: программная перезапись (несколько проходов по секторам), физическое разрушение носителей (измельчение, плавление), либо проверенное производителем аппаратное стирание (например, команда ATA Secure Erase для SSD). Процесс удаления обязательно документируется, особенно для данных, подпадающих под действие законов о персональных данных и коммерческой тайне. Некорректное удаление может привести к утечке информации.
Классификация и модели DLM
### По уровням управления:
- Стратегический DLM — определяет общие политики, роли и бюджеты. Реализуется на уровне руководства (CDO — Chief Data Officer) и правового отдела.
- Тактический DLM — разработка регламентов, SLA (соглашений об уровне обслуживания), выбор технологий хранения.
- Операционный DLM — повседневное выполнение процедур: мониторинг, резервное копирование, миграция, удаление. Выполняется администраторами баз данных и системными инженерами.
### По способу управления:
- Политико-ориентированная модель — основана на правилах, задаваемых в виде условий (например: «все записи кадрового учёта старше 7 лет автоматически архивируются»). Чаще всего реализуется в системах управления базами данных (СУБД) и облачных сервисах.
- Проектная модель — применяется для конкретных проектов (научные исследования, слияния компаний), где жизненный цикл данных уникален.
### По типу системы:
- Традиционный DLM — управляет неструктурированными файлами (документы, изображения) на выделенных файловых серверах или NAS-системах.
- DLM для больших данных (Big Data DLM) — ориентирован на обработку массовых потоков данных в распределённых системах (Hadoop, Spark). Уничтожение данных здесь часто происходит на уровне «исчезновения» файлов или таблиц по истечении времени жизни (TTL — Time To Live).
- DLM для баз данных — встроенные функции СУБД (например, управление разделами таблиц в MS SQL, Oracle).
Технологии и инструменты
Реализация DLM опирается на следующий стек технологий:
- Системы управления базами данных: функции перемещения данных между слоями хранения (tiering), архивирование таблиц, сжатие. Примеры: Oracle ILM (Information Lifecycle Management), Microsoft SQL Server Data Management, PostgreSQL с расширениями.
- Файловые системы и сетевые устройства хранения: поддержка разметки данных (QoS) и возможность миграции между быстрыми и медленными разделами. Решения NetApp, Dell EMC, IBM Spectrum Scale.
- Облачные платформы: Amazon Web Services (S3 Lifecycle Policies), Microsoft Azure (Blob Storage Lifecycle), Яндекс.Облако (Object Storage с правилами). Облачные провайдеры автоматизируют перемещение данных и их удаление.
- Средства архивирования и защиты данных: Veritas NetBackup, Veeam, Commvault — управляют копиями, миграцией на ленту и сроком хранения бекапов.
- Системы управления этикетками и метаданными: позволяют автоматически классифицировать данные при записи, что является основой для применения политик DLM.
Применение и значение
Управление жизненным циклом данных критически важно в следующих областях:
- Финансовый сектор: выполнение требований Центрального банка РФ по срокам хранения отчётности, налоговых регистров, сообщений о сделках.
- Медицина: хранение электронных медицинских карт (ЕМИАС) с учётом сроков (25–75 лет) и прав доступа пациентов и врачей, а также требования к удалению устаревших данных.
- Сфера персональных данных: соблюдение Федерального закона № 152-ФЗ (обязанность удалить данные при отзыве согласия субъекта или достижении цели обработки).
- Инженерные и исследовательские проекты: управление результатами экспериментов и моделирования, где данные могут иметь ценность только определённое время, после чего подлежат удалению для освобождения ресурсов.
- Государственное управление: архивное хранение документов (делопроизводство, судебные дела) с последующим уничтожением по истечении сроков, установленных номенклатурой дел и законодательством.
Критика и ограничения
Несмотря на очевидные преимущества, внедрение DLM сопряжено с трудностями. Критики отмечают, что большинство политик DLM слишком консервативны и не учитывают быстро меняющиеся бизнес-потребности. Автоматизация редко бывает полной — часто требуется ручная настройка и регулярный пересмотр правил. Для компаний, начавших внедрение DLM задним числом, когда накоплены большие объёмы неуправляемых данных («отвалов данных»), процесс их классификации и приведения к нужному формату может быть чрезвычайно затратным по времени и ресурсам. Наконец, некоторые организации отказываются от жёсткого удаления, предпочитая бессрочное хранение, полагая, что даже утратившая актуальность информация может однажды оказаться полезной для глубокого анализа, что противоречит базовому принципу DLM — избавлению от лишнего.
Источники
- Федеральный закон от 27 июля 2006 года № 152-ФЗ «О персональных данных» (с изменениями и дополнениями).
- Правила организации хранения, комплектования, учёта и использования документов Архивного фонда Российской Федерации и других архивных документов в органах государственной власти, органах местного самоуправления и организациях (утверждены приказом Росархива).
- Стандарт ИСО/МЭК 27001:2013 «Информационные технологии. Методы обеспечения безопасности. Системы управления информационной безопасностью. Требования» (раздел, касающийся хранения и удаления носителей).
- Глобальные рекомендации Data Management Association (DAMA-DMBOK, раздел Data Lifecycle Management).
- Техническая документация по реализации ILM в системах Oracle Database, Microsoft SQL Server, Amazon S3 и Microsoft Azure Blob Storage.
BFOmetr — база данных и аналитика по компаниям России.
На главную BFOmetr →