Weighted Least Connections

Weighted Least Connections (WLC, взвешенное наименьшее количество соединений) — это алгоритм балансировки нагрузки (load balancing), используемый для распределения входящих запросов между несколькими серверами (или другими вычислительными ресурсами) в кластере. Алгоритм основан на динамическом анализе текущего количества активных соединений на каждом сервере с учётом его заданной производительности (веса). WLC является модификацией более простого алгоритма Least Connections (наименьшее количество соединений) и предназначен для оптимизации использования ресурсов в гетерогенных средах, где серверы обладают разной мощностью.

Принцип работы

Алгоритм WLC работает на основе двух ключевых параметров: текущего количества активных соединений на каждом сервере и его веса. Вес — это числовой коэффициент, присваиваемый администратором или автоматически, который отражает производительность сервера (например, количество ядер процессора, объём оперативной памяти, пропускную способность сети). Чем выше вес, тем больше запросов сервер способен обработать.

При поступлении нового запроса балансировщик нагрузки вычисляет для каждого сервера значение, называемое «эффективным числом соединений» (effective connection count). Оно рассчитывается по формуле:

\[ \text{Эффективное число соединений} = \frac{\text{Текущее количество соединений}}{\text{Вес сервера}} \]

Запрос направляется на сервер с наименьшим значением этого отношения. Если несколько серверов имеют одинаковое значение, выбор может производиться случайным образом или по круговому методу (round-robin).

Пример работы

Пусть имеется три сервера:

• Сервер A: вес 3, текущих соединений 6.
• Сервер B: вес 2, текущих соединений 4.
• Сервер C: вес 1, текущих соединений 2.

Эффективные числа соединений:

• A: 6 / 3 = 2
• B: 4 / 2 = 2
• C: 2 / 1 = 2

В данном случае все три сервера имеют одинаковое значение, поэтому балансировщик выберет один из них произвольно. Если бы на сервер C поступило ещё одно соединение (стало 3), его эффективное число стало бы 3, и запрос был бы направлен на A или B.

Отличие от алгоритма Least Connections

Основное отличие WLC от классического Least Connections (LC) заключается в учёте неоднородности серверов. В алгоритме LC запрос всегда направляется на сервер с наименьшим абсолютным числом соединений. Это эффективно для однородных кластеров, где все серверы имеют одинаковую производительность. Однако в гетерогенных средах, где один сервер может быть в несколько раз мощнее другого, LC может привести к неравномерной загрузке: мощный сервер будет получать столько же запросов, сколько и слабый, что приведёт к недоиспользованию ресурсов первого и перегрузке второго.

WLC решает эту проблему, позволяя мощным серверам принимать больше соединений, пропорционально их весу. Например, сервер с весом 4 может обрабатывать в два раза больше запросов, чем сервер с весом 2, при одинаковом уровне загрузки.

Применение

Алгоритм WLC широко используется в системах балансировки нагрузки, таких как:

• Аппаратные балансировщики (например, F5 BIG-IP, Citrix ADC).
• Программные балансировщики (например, HAProxy, Nginx, Apache HTTP Server с модулем mod_proxy_balancer, LVS (Linux Virtual Server)).
• Облачные платформы (например, AWS Elastic Load Balancing, Google Cloud Load Balancing, Azure Load Balancer).
• Системы управления трафиком (например, Traefik, Envoy).

WLC особенно полезен в сценариях, где серверы имеют разную производительность, например, при поэтапном обновлении оборудования, использовании серверов разных поколений или в гибридных облачных средах.

Настройка весов

Вес сервера может быть задан статически или динамически. Статическая настройка предполагает ручное присвоение веса администратором на основе известных характеристик сервера. Динамическая настройка позволяет автоматически корректировать вес в зависимости от текущей загрузки сервера (например, по загрузке CPU, использованию памяти или времени отклика). Некоторые системы, такие как HAProxy, поддерживают автоматическую настройку весов на основе данных мониторинга.

Преимущества и недостатки

Преимущества

• Эффективное использование ресурсов в гетерогенных средах.
• Простота реализации по сравнению с более сложными алгоритмами (например, на основе времени отклика).
• Предсказуемость поведения при статических весах.
• Низкая вычислительная нагрузка на балансировщик.

Недостатки

• Зависимость от точности весов. Неправильная настройка весов может привести к дисбалансу.
• Не учитывает время обработки запроса. Алгоритм предполагает, что все соединения одинаковы по длительности, что не всегда верно. Например, сервер может иметь много коротких соединений, а другой — несколько длительных, что приводит к неэффективному распределению.
• Чувствительность к изменению нагрузки. При резких скачках трафика алгоритм может не успевать адаптироваться, если веса статичны.
• Не подходит для протоколов с длительными соединениями (например, WebSocket, потоковое видео), где количество соединений не отражает реальную загрузку.

Модификации и родственные алгоритмы

Существует несколько модификаций WLC, направленных на устранение его недостатков:

• Weighted Least Connections with Slow Start — алгоритм, который временно снижает вес сервера после его перезапуска или добавления в кластер, чтобы избежать перегрузки новыми соединениями.
• Weighted Least Connections with Adaptive Weighting — автоматическая корректировка весов на основе метрик производительности (например, загрузки CPU, времени отклика).
• Least Connections with Dynamic Weighting — алгоритм, где вес сервера динамически пересчитывается на основе его текущей загрузки, а не задаётся статически.

Родственными алгоритмами являются:

• Least Connections — базовый алгоритм без учёта весов.
• Weighted Round Robin — алгоритм, распределяющий запросы по кругу с учётом весов, но без учёта текущей загрузки.
• Least Response Time — алгоритм, направляющий запросы на сервер с наименьшим временем отклика.

Реализации в популярных системах

HAProxy

В HAProxy (версия 1.3 и выше) алгоритм WLC используется по умолчанию для балансировки TCP-соединений. Вес сервера задаётся в конфигурации с помощью параметра weight. HAProxy также поддерживает динамическую настройку весов через статистический интерфейс.

Nginx

В Nginx алгоритм WLC реализован в модуле upstream с использованием директивы least_conn. Для включения взвешенного режима веса задаются через параметр weight в блоке server. Например: `` upstream backend { least_conn; server backend1.example.com weight=3; server backend2.example.com weight=2; server backend3.example.com weight=1; } ``

LVS (Linux Virtual Server)

В LVS алгоритм WLC является одним из стандартных методов планирования (scheduling). Он доступен в режиме ipvsadm с параметром -s wlc. LVS позволяет задавать веса для каждого сервера в кластере.

AWS Elastic Load Balancing

В AWS ELB (Classic Load Balancer) алгоритм WLC используется для балансировки TCP-трафика. Веса серверов задаются в настройках группы экземпляров (target group). Для HTTP/HTTPS-трафика ELB использует другие алгоритмы (например, Round Robin).

Критика и ограничения

Основная критика WLC связана с его неспособностью учитывать реальную загрузку сервера, а не только количество соединений. В современных распределённых системах, где запросы могут сильно различаться по сложности, WLC может приводить к неравномерной загрузке. Например, сервер с 10 простыми запросами может быть менее загружен, чем сервер с 5 сложными. Для таких сценариев более эффективны алгоритмы на основе времени отклика или загрузки CPU.

Кроме того, WLC плохо подходит для систем с длительными соединениями, где количество соединений не является показателем загрузки. В таких случаях часто используются алгоритмы на основе хэширования (например, IP Hash) или алгоритмы, учитывающие состояние соединения.

Источники

1. Linux Virtual Server: Weighted Least-Connection Scheduling. — LVS Project Documentation.
2. HAProxy Configuration Manual: Balancing Algorithms. — HAProxy Technologies.
3. Nginx Documentation: Module ngx_http_upstream_module. — Nginx, Inc.
4. AWS Elastic Load Balancing: Features and Pricing. — Amazon Web Services.
5. Kurose, J. F., Ross, K. W. Computer Networking: A Top-Down Approach. — 7th ed., Pearson, 2017. — Глава 7 (Content Distribution and Peer-to-Peer).
6. Fielding, R. T., et al. Hypertext Transfer Protocol (HTTP/1.1): Message Syntax and Routing. — RFC 7230, 2014.