NVIDIA A100

NVIDIA A100 — это графический процессор (GPU) архитектуры Ampere, разработанный компанией NVIDIA и предназначенный для использования в центрах обработки данных, системах высокопроизводительных вычислений (HPC) и задачах искусственного интеллекта (ИИ). Представленный в мае 2020 года, A100 стал первым ускорителем на базе новой архитектуры, сменившей предыдущее поколение Volta (V100). Ключевыми особенностями A100 являются поддержка технологии Multi-Instance GPU (MIG), позволяющей разделять один физический GPU на несколько изолированных виртуальных ускорителей, а также использование памяти HBM2e с пропускной способностью до 2 ТБ/с.

Архитектура и устройство

Графический процессор GA100

В основе A100 лежит чип GA100, изготовленный по 7-нанометровому техпроцессу TSMC (N7). Он содержит 54,2 миллиарда транзисторов на площади 826 мм². Чип состоит из 128 потоковых мультипроцессоров (SM), каждый из которых включает 64 ядра CUDA, 4 тензорных ядра третьего поколения и 4 текстурных блока. В конфигурации полноценного ускорителя A100 задействовано 108 SM (6912 ядер CUDA и 432 тензорных ядра), остальные 20 SM резервируются для повышения выхода годных чипов и снижения энергопотребления.

Память и подсистема ввода-вывода

A100 оснащается 40 ГБ (в ранних версиях) или 80 ГБ (в версии A100 80GB, представленной в ноябре 2020 года) памяти HBM2e. Пропускная способность памяти составляет 1,6 ТБ/с для 40-гигабайтной версии и 2,0 ТБ/с для 80-гигабайтной. Подсистема ввода-вывода включает поддержку PCI Express 4.0 x16 и NVLink третьего поколения. NVLink обеспечивает прямую связь между GPU с пропускной способностью до 600 ГБ/с (в конфигурации с 12 мостами), что позволяет объединять до 8 A100 в один логический кластер (DGX A100).

Технология Multi-Instance GPU (MIG)

MIG — ключевая инновация A100, позволяющая разделить физический GPU на до 7 независимых экземпляров (инстансов). Каждый инстанс получает изолированные ресурсы: собственные ядра CUDA, тензорные ядра, кэш L2, контроллер памяти и полосу пропускания. Это позволяет одновременно запускать несколько задач разных пользователей или приложений без взаимного влияния, что критически важно для облачных провайдеров. MIG поддерживает конфигурации: 1×7 (7 инстансов по 1/7 GPU), 2×4 (4 инстанса по 1/4 GPU), 3×3 (3 инстанса по 1/3 GPU) и другие комбинации.

Производительность

Вычислительные возможности

По данным NVIDIA, A100 обеспечивает до 19,5 TFLOPS (триллионов операций с плавающей запятой в секунду) в режиме FP32 (одинарная точность) и до 9,7 TFLOPS в режиме FP64 (двойная точность). Для задач ИИ, использующих тензорные ядра, пиковая производительность достигает 312 TFLOPS в режиме TF32 (сокращённая точность) и 624 TFLOPS в режиме FP16 (половинная точность). С использованием разреженности (sparsity) эти показатели удваиваются до 1248 TFLOPS.

Сравнение с предшественником (V100)

По сравнению с V100 (архитектура Volta), A100 демонстрирует:

• Увеличение производительности в задачах HPC в 2,5 раза (FP64).
• Ускорение обучения нейронных сетей в 6 раз (TF32).
• Снижение энергопотребления на операцию до 70% (при одинаковой производительности).
• Поддержка разреженности (sparsity) для тензорных ядер, что ранее не было реализовано.

Применение

Искусственный интеллект и машинное обучение

A100 широко используется для обучения и инференса (вывода) крупных нейронных сетей, включая трансформеры (например, GPT, BERT), свёрточные сети (ResNet, EfficientNet) и генеративные модели (GAN, диффузионные модели). Благодаря MIG, один A100 может обслуживать несколько моделей одновременно, что снижает затраты на развёртывание.

Высокопроизводительные вычисления (HPC)

В научных расчётах A100 применяется для моделирования климата, молекулярной динамики (GROMACS, NAMD), вычислительной гидродинамики (OpenFOAM), квантовой химии (Gaussian) и анализа геномных данных. Поддержка FP64 делает его пригодным для задач, требующих высокой точности.

Облачные вычисления

Крупнейшие облачные провайдеры (Amazon Web Services, Microsoft Azure, Google Cloud Platform, Yandex Cloud) предлагают виртуальные машины на базе A100. В России такие услуги предоставляются, в частности, в рамках платформы Yandex Cloud и DataLine. MIG позволяет арендовать часть GPU, что снижает порог входа для малых и средних компаний.

Варианты исполнения

A100 40GB и A100 80GB

Основное различие — объём памяти и пропускная способность. Версия 80GB использует память HBM2e с более высокой частотой (2,4 Гбит/с против 2,0 Гбит/с) и увеличенным числом стеков (8 против 5). Это даёт прирост производительности в задачах, чувствительных к объёму памяти (например, обучение крупных языковых моделей).

Форм-факторы

• SXM4 — модульный форм-фактор для серверов (DGX A100, HGX A100). Обеспечивает максимальную производительность за счёт прямого подключения к NVLink.
• PCIe 4.0 — карта расширения для стандартных серверов. Имеет меньшую пропускную способность NVLink (до 4 мостов) и более низкое энергопотребление (250 Вт против 400 Вт у SXM4).

Критика и ограничения

Несмотря на высокую производительность, A100 подвергается критике за высокое энергопотребление (до 400 Вт в пике) и необходимость сложной системы охлаждения. Для центров обработки данных это требует значительных инвестиций в инфраструктуру. Кроме того, в условиях санкционных ограничений (введённых США в 2022 году) поставки A100 в Россию и некоторые другие страны были существенно ограничены, что привело к дефициту и росту цен на вторичном рынке.

Влияние на индустрию

A100 стал одним из самых массовых ускорителей для ИИ и HPC в период 2020–2023 годов. Он использовался для обучения таких моделей, как GPT-3 (OpenAI), DALL-E 2 (OpenAI) и Stable Diffusion (Stability AI). В 2022 году NVIDIA представила преемника — H100 на архитектуре Hopper, однако A100 остаётся востребованным благодаря соотношению цены и производительности, а также поддержке MIG, которая не была реализована в H100 в полном объёме.

Источники

• NVIDIA Corporation. «NVIDIA A100 Tensor Core GPU Architecture Whitepaper». 2020.
• NVIDIA Corporation. «NVIDIA A100 80GB GPU Whitepaper». 2020.
• NVIDIA Corporation. «NVIDIA DGX A100: The Universal System for AI Infrastructure». 2020.
• «NVIDIA A100 GPU: A Comprehensive Review». AnandTech, 2020.
• «NVIDIA A100 80GB Review: The Best GPU for AI and HPC». ServeTheHome, 2020.
• «MIG (Multi-Instance GPU) — руководство по настройке». NVIDIA Developer Documentation, 2021.
• «Санкции США против России: ограничения на поставки чипов NVIDIA». Коммерсантъ, 2022.