Multi-Instance GPU

Multi-Instance GPU (MIG) — это технология аппаратной виртуализации графических процессоров (GPU), разработанная компанией NVIDIA. Она позволяет разделить один физический GPU на несколько логически изолированных экземпляров (инстансов), каждый из которых обладает собственными выделенными ресурсами: памятью, кэшем, вычислительными ядрами и шиной памяти. MIG предназначена для повышения эффективности использования GPU в центрах обработки данных (ЦОД) и облачных средах, где требуется одновременное выполнение нескольких задач с гарантированным качеством обслуживания (QoS).

История

Технология MIG была анонсирована компанией NVIDIA в мае 2020 года вместе с архитектурой Ampere. Первым GPU, поддерживающим MIG, стал NVIDIA A100, представленный в том же году. Внедрение MIG стало ответом на растущую потребность в изоляции рабочих нагрузок в облачных и корпоративных средах, где традиционные методы виртуализации GPU (например, программная эмуляция или разделение через драйверы) не обеспечивали достаточной производительности или безопасности.

В 2022 году поддержка MIG была расширена на архитектуру Hopper (GPU H100), а в 2024 году — на архитектуру Blackwell (GPU B100/B200). В этих поколениях были улучшены механизмы изоляции памяти и увеличено количество поддерживаемых инстансов.

Архитектура и принцип работы

Аппаратная изоляция

MIG реализована на аппаратном уровне, что отличает её от программных методов виртуализации. Каждый инстанс получает физически выделенные блоки:

• Вычислительные ядра (SM) — фиксированное количество потоковых мультипроцессоров.
• Кэш-память L2 — выделенный сегмент, недоступный для других инстансов.
• Контроллер памяти — независимый доступ к определённым каналам памяти.
• VRAM — фиксированный объём видеопамяти, выделенный из общего пула.

Такая изоляция предотвращает влияние одного инстанса на производительность другого (эффект «шумного соседа»).

Типы инстансов

MIG поддерживает несколько профилей (размеров) инстансов, которые различаются количеством выделенных ресурсов. Для GPU A100 (80 ГБ) доступны следующие профили:

Для GPU H100 (80 ГБ) профили аналогичны, но с увеличенным объёмом памяти (например, 1g.10gb, 7g.80gb). В архитектуре Blackwell количество профилей было расширено, включая варианты с дробным числом SM.

Ограничения

• MIG поддерживается только на GPU архитектур Ampere, Hopper и Blackwell (серии A, H, B).
• Технология работает исключительно в режиме данных центров (без поддержки дисплейных выходов).
• Для использования MIG требуется специальная версия драйвера NVIDIA и поддержка со стороны гипервизора (например, VMware vSphere, Red Hat OpenShift, Kubernetes).

Применение

Облачные вычисления

MIG широко используется в облачных платформах (Amazon Web Services, Google Cloud, Microsoft Azure) для предоставления GPU-инстансов с гарантированной производительностью. Например, на AWS инстансы p4d.24xlarge на базе A100 поддерживают до 7 MIG-профилей, что позволяет запускать несколько задач машинного обучения одновременно.

Машинное обучение и ИИ

MIG позволяет эффективно использовать GPU для обучения и инференса моделей малого и среднего размера. Например, один инстанс 1g.5gb может обслуживать модель BERT-base, а другой — выполнять инференс для рекомендательной системы. Это снижает затраты на оборудование и энергопотребление.

Виртуализация рабочих станций

В решениях NVIDIA vGPU (Virtual GPU) MIG используется для создания изолированных виртуальных рабочих станций для удалённой работы. Каждый пользователь получает выделенный GPU-инстанс с гарантированной производительностью, что критично для CAD-проектирования, 3D-моделирования и рендеринга.

Научные вычисления

В суперкомпьютерах (например, Perlmutter, Leonardo) MIG применяется для параллельного выполнения нескольких задач с разными требованиями к ресурсам. Это повышает общую загрузку GPU и ускоряет обработку данных.

Преимущества и недостатки

Преимущества

• Аппаратная изоляция — отсутствие влияния соседних задач на производительность.
• Гарантированное качество обслуживания — фиксированные ресурсы для каждого инстанса.
• Экономия ресурсов — возможность запуска нескольких задач на одном GPU, снижая потребность в дополнительном оборудовании.
• Безопасность — невозможность доступа к памяти другого инстанса на аппаратном уровне.

Недостатки

• Ограниченная гибкость — фиксированные профили инстансов, которые нельзя произвольно настраивать.
• Потери производительности — при дроблении ресурсов часть вычислительной мощности тратится на управление изоляцией (до 5-10%).
• Сложность настройки — требуется ручная конфигурация через драйверы или инструменты управления (например, nvidia-smi).
• Совместимость — не все приложения и фреймворки корректно работают с MIG (требуется адаптация).

Сравнение с альтернативами

MIG обеспечивает лучшую изоляцию по сравнению с CUDA MPS (Multi-Process Service) и vGPU, но уступает GPU Passthrough в производительности для одиночных задач.

Перспективы развития

С появлением архитектуры Blackwell ожидается расширение поддержки MIG на GPU для настольных систем (серия RTX 5000), что позволит использовать технологию в локальных рабочих станциях. Также ведутся работы по интеграции MIG с контейнерными средами (Docker, Kubernetes) для автоматического распределения инстансов.

Источники

• NVIDIA. «NVIDIA Multi-Instance GPU (MIG) User Guide». 2023.
• NVIDIA. «NVIDIA A100 Tensor Core GPU Architecture». 2020.
• NVIDIA. «NVIDIA H100 Tensor Core GPU Architecture». 2022.
• Документация NVIDIA vGPU. «MIG Support in vGPU». 2024.
• Статья «Multi-Instance GPU: A New Paradigm for GPU Virtualization» на сайте NVIDIA Developer. 2021.