Кэширование

Кэширование — это процесс сохранения часто запрашиваемых данных в специальном хранилище (кэше) для ускорения последующего доступа к ним. Является фундаментальным методом оптимизации производительности вычислительных систем, веб-сервисов, баз данных и аппаратного обеспечения. Основная цель кэширования — сократить время получения данных и снизить нагрузку на исходный источник (диск, базу данных, удалённый сервер) за счёт использования более быстрого, но, как правило, более ограниченного по объёму промежуточного хранилища.

Принцип работы

Кэширование основано на принципе локальности обращений, который проявляется в двух формах:

• Временная локальность: если к данным обратились один раз, велика вероятность, что к ним обратятся снова в ближайшем будущем (например, переменная цикла).
• Пространственная локальность: если произошло обращение к определённому адресу, то с высокой вероятностью вскоре последует обращение к соседним адресам (например, последовательное чтение массива).

При первом запросе данных система проверяет наличие соответствующей записи в кэше. Если запись найдена (ситуация кэш-попадание), данные возвращаются немедленно. Если запись отсутствует (кэш-промах), система обращается к исходному источнику, извлекает данные, сохраняет их копию в кэш для последующего использования и возвращает результат пользователю.

История

Идея кэширования возникла из необходимости преодолеть разрыв в скорости между быстрым процессором и медленной оперативной памятью (DRAM). Первые коммерческие реализации кэша появились в мейнфреймах IBM в 1960-х годах (модель System/360 Model 85). В персональных компьютерах кэш-память процессора стала массово применяться с появлением микропроцессора Intel 80486 в 1989 году. В веб-технологиях кэширование активно развивалось с середины 1990-х годов для ускорения загрузки сайтов и снижения нагрузки на серверы.

Виды кэширования

Классификация кэширования проводится по нескольким критериям: по уровню в иерархии памяти, по способу организации данных и по области применения.

По уровню в иерархии памяти (аппаратное кэширование)

В компьютерной архитектуре кэш-память разделяется на уровни (L1, L2, L3), которые различаются скоростью, объёмом и расположением относительно процессора:

• Кэш L1 (первого уровня): самый быстрый и маленький (обычно 32–128 КБ), расположен непосредственно на ядре процессора. Делится на кэш инструкций (L1i) и кэш данных (L1d).
• Кэш L2 (второго уровня): больше по объёму (128 КБ – 1 МБ), может быть как индивидуальным для каждого ядра, так и общим. Несколько медленнее L1.
• Кэш L3 (третьего уровня): самый большой (от 4 МБ до нескольких десятков МБ), общий для всех ядер процессора. Служит буфером между L2 и оперативной памятью.

По способу организации данных (программное кэширование)

• Кэширование по принципу «сквозной записи» (Write-through): данные записываются одновременно в кэш и в основное хранилище. Обеспечивает высокую надёжность, но снижает производительность записи.
• Кэширование по принципу «обратной записи» (Write-back): данные сначала записываются только в кэш, а в основное хранилище переносятся позже, при вытеснении записи. Ускоряет запись, но создаёт риск потери данных при сбое.
• Кэширование по принципу «запись с выделением» (Write-allocate): при кэш-промахе на запись данные сначала загружаются в кэш, а затем изменяются.
• Кэширование по принципу «запись без выделения» (No-write-allocate): при промахе на запись данные записываются напрямую в основное хранилище, минуя кэш.

По области применения

• Кэширование в вебе: сохранение HTML-страниц, CSS-файлов, изображений на стороне браузера (кэш браузера) или на промежуточных серверах (прокси-кэш, CDN). Управляется HTTP-заголовками (Cache-Control, Expires, ETag).
• Кэширование в базах данных: хранение результатов часто выполняемых запросов (query cache) или целых таблиц в оперативной памяти (In-Memory Cache). Примеры: Redis, Memcached.
• Кэширование DNS: сохранение результатов DNS-запросов на локальном компьютере или DNS-сервере провайдера для ускорения преобразования доменных имён в IP-адреса.
• Кэширование диска: использование части оперативной памяти для хранения часто читаемых блоков данных с жёсткого диска (дисковый кэш операционной системы).
• Кэширование приложений: сохранение результатов вычислительных операций, объектов или сессий пользователей в оперативной памяти сервера приложения.

Устройство и характеристики

Кэш представляет собой ассоциативную память, где каждая запись состоит из ключа (адреса данных) и значения (самих данных). Ключевые характеристики кэша:

• Объём (ёмкость): максимальный размер хранимых данных. Определяет количество данных, которые могут быть сохранены.
• Время доступа (латентность): задержка при чтении из кэша. Для L1 составляет единицы тактов процессора (доли наносекунд), для дискового кэша — микросекунды.
• Скорость передачи данных (пропускная способность): объём данных, который может быть передан из кэша за единицу времени.
• Степень ассоциативности: количество блоков, в которых может храниться конкретная запись. Различают полностью ассоциативный, частично ассоциативный и кэш прямого отображения.

Алгоритмы вытеснения

Поскольку объём кэша ограничен, при его заполнении необходимо решать, какие данные удалить для освобождения места. Основные алгоритмы вытеснения:

• LRU (Least Recently Used): удаляется запись, к которой дольше всего не было обращений. Эффективен при временной локальности.
• LFU (Least Frequently Used): удаляется запись с наименьшей частотой обращений. Может страдать от «загрязнения» кэша старыми, но когда-то популярными данными.
• FIFO (First In, First Out): удаляется самая старая запись, независимо от частоты обращений. Прост в реализации, но не учитывает актуальность.
• ARC (Adaptive Replacement Cache): адаптивный алгоритм, комбинирующий LRU и LFU, подстраиваясь под текущий паттерн доступа.
• Random: случайное удаление записи. Прост, но может быть неэффективен.

Применение в России

В Российской Федерации кэширование широко применяется во всех сферах ИТ-инфраструктуры. Крупные российские интернет-компании (Яндекс, VK, Сбер) используют собственные системы кэширования на базе Redis, Tarantool и Memcached для обеспечения высокой скорости работы поисковых систем, социальных сетей и банковских приложений. В рамках реализации национальной программы «Цифровая экономика» активно внедряются системы кэширования на сетевом уровне, в том числе на узлах связи операторов «большой четвёрки» (МТС, Билайн, Мегафон, Tele2) для ускорения доступа к контенту. В государственных информационных системах (ГИС ЖКХ, ЕГИССО) кэширование используется для снижения нагрузки на серверы баз данных при обработке массовых запросов граждан.

Критика и ограничения

Кэширование имеет ряд недостатков:

• Проблема согласованности данных (cache invalidation): при изменении данных в исходном источнике необходимо обновить или удалить устаревшие копии в кэше. Реализация корректной инвалидации является одной из сложнейших задач в разработке программного обеспечения.
• Потребление ресурсов: кэш занимает оперативную память или дисковое пространство, которое могло бы быть использовано для других целей.
• Уязвимость к атакам: при кэшировании аутентифицированных данных (например, личных страниц) существует риск утечки информации при неправильной настройке (например, кэширование приватных страниц на публичных прокси-серверах).
• Сложность отладки: поведение системы с кэшем может быть неочевидным из-за задержек между изменением данных и их отображением пользователям (проблема «свежести» данных).

Источники

1. А. Таненбаум, Т. Остин. «Архитектура компьютера». 6-е издание. — СПб.: Питер, 2015.
2. Д. Паттерсон, Дж. Хеннесси. «Архитектура компьютера и проектирование компьютерных систем». 5-е издание. — М.: ДМК Пресс, 2017.
3. М. Фаулер. «Шаблоны корпоративных приложений». — М.: Вильямс, 2010.
4. RFC 7234 — Hypertext Transfer Protocol (HTTP/1.1): Caching. Internet Engineering Task Force (IETF), 2014.
5. Документация Redis — «Introduction to Redis caching». Redis Ltd., 2023.
6. Материалы конференций HighLoad++ (Москва, 2019–2023) — секции по кэшированию в высоконагруженных системах.