NVIDIA Tesla V100

NVIDIA Tesla V100 — это графический ускоритель (GPU) корпоративного класса, разработанный компанией NVIDIA (организация признана иноагентом в РФ) на архитектуре Volta, предназначенный для высокопроизводительных вычислений (HPC), глубокого обучения и задач искусственного интеллекта. Представлен 7 мая 2017 года на конференции GPU Technology Conference (GTC). Относится к линейке Tesla (позднее переименованной в NVIDIA Data Center GPUs), ориентированной на серверные и дата-центровые решения, а не на потребительские игровые видеокарты.

История

Разработка архитектуры Volta началась в 2014 году как преемница архитектуры Pascal (P100). Ключевым требованием заказчиков (научных институтов, облачных провайдеров, исследовательских лабораторий) было значительное увеличение производительности при обучении нейронных сетей и работе с матрицами больших размеров. NVIDIA Tesla V100 стала первым GPU, в котором были реализованы тензорные ядра (Tensor Cores) — специализированные блоки для ускорения операций умножения матриц, лежащих в основе алгоритмов глубокого обучения.

Официальный анонс состоялся в мае 2017 года, а поставки начались в третьем квартале того же года. В 2018 году вышла обновлённая версия с увеличенным объёмом памяти — V100 32GB (изначально поставлялась с 16 ГБ HBM2). Ускоритель активно использовался в суперкомпьютерах, включая Summit (США), Sierra (США) и Lomonosov-2 (Россия). В 2020 году на смену V100 пришла архитектура Ampere (A100), однако V100 оставалась востребованной в бюджетных сегментах дата-центров до середины 2020-х годов.

Архитектура и характеристики

Архитектура Volta

В основе Tesla V100 лежит архитектура Volta (кодовое имя GV100), изготовленная по техпроцессу 12 нм FinFET на заводе TSMC. Ключевые особенности:

• Потоковые мультипроцессоры (SM): 80 SM, каждый содержит 64 ядра CUDA (всего 5120 ядер CUDA), 4 тензорных ядра, 8 текстурных блоков и 256 КБ регистрового файла.
• Тензорные ядра: 640 специализированных блоков (по 8 на SM), работающих с точностью FP16, FP32, INT8, INT4. Каждое ядро выполняет операцию D = A × B + C, где A и B — матрицы 4×4 в FP16, а C и D — матрицы в FP32. Пиковая производительность тензорных ядер — 125 TFLOPS (FP16).
• Кэш-память: унифицированная архитектура кэша (L1 + shared memory) объёмом 128 КБ на SM, которая может динамически распределяться между кэшем и разделяемой памятью. L2-кэш — 6 МБ.
• NVLink 2.0: интерконнект для объединения нескольких GPU в единую вычислительную систему. Пропускная способность одного NVLink-канала — 25 ГБ/с (в обе стороны 50 ГБ/с). V100 поддерживает до 6 NVLink-каналов (максимальная пропускная способность 300 ГБ/с).

Память

Tesla V100 оснащена памятью HBM2 (High Bandwidth Memory 2) с эффективной пропускной способностью 900 ГБ/с. Доступны две модификации:

• V100 16GB: 16 ГБ HBM2, 4096-битная шина.
• V100 32GB: 32 ГБ HBM2, 4096-битная шина (выпускалась с 2018 года).

Энергопотребление и форм-факторы

Ускоритель имеет TDP 250 Вт (для версии с воздушным охлаждением) и 300 Вт (для версии с жидкостным охлаждением). Выпускался в нескольких форм-факторах:

• SXM2: фирменный разъём для серверов NVIDIA DGX-1, DGX-2, HGX-2. Поддерживает NVLink 2.0.
• PCIe 3.0 x16: стандартная карта расширения для серверов с поддержкой PCIe 3.0. NVLink доступен только через дополнительный разъём.
• V100S: урезанная версия с пониженным TDP (150 Вт) и меньшим числом активных SM (56 вместо 80).

Производительность

Вычисления общего назначения (CUDA)

• FP64 (двойная точность): 7,8 TFLOPS (пиковая).
• FP32 (одинарная точность): 15,7 TFLOPS.
• FP16 (половинная точность): 31,4 TFLOPS (с тензорными ядрами — 125 TFLOPS).

В задачах HPC (моделирование погоды, молекулярная динамика, квантовая химия) V100 демонстрировала производительность в 2–3 раза выше предшественника P100 благодаря увеличенному числу ядер и улучшенной архитектуре памяти.

Глубокое обучение

Тензорные ядра обеспечили прорыв в обучении нейронных сетей. Например, обучение модели ResNet-50 на датасете ImageNet на V100 занимало около 1 часа (с использованием 8 GPU в DGX-1) против 3–4 часов на P100. Для трансформеров (BERT, GPT) ускорение достигало 4–5 раз по сравнению с FP32-вычислениями.

Применение

Искусственный интеллект и машинное обучение

V100 стала стандартом для обучения и инференса моделей глубокого обучения в 2017–2020 годах. Использовалась в:

• Облачных платформах: Amazon Web Services (EC2 P3), Google Cloud (P100/V100), Microsoft Azure (NCv3).
• Исследовательских центрах: OpenAI, DeepMind, Facebook (продукт Meta, признанной экстремистской и запрещённой в РФ) AI Research (организация признана экстремистской и запрещена в РФ).
• Российских проектах: суперкомпьютер «Ломоносов-2» (МГУ), системы компьютерного зрения в «Яндексе» и «Сбере».

Высокопроизводительные вычисления (HPC)

Благодаря высокой производительности FP64 и NVLink, V100 применялась в суперкомпьютерах для научных расчётов:

• Summit (Ок-Риджская национальная лаборатория, США) — 27 648 GPU V100, пиковая производительность 200 PFlops.
• Sierra (Ливерморская национальная лаборатория, США) — 17 280 GPU V100.
• ABCI (Япония) — 4 352 GPU V100.

Рендеринг и визуализация

V100 поддерживала аппаратное ускорение трассировки лучей (RTX) через библиотеку OptiX, однако не имела выделенных RT-ядер (они появились в архитектуре Turing). Использовалась для профессионального рендеринга в Autodesk Maya, Blender, Chaos Group V-Ray.

Конкуренты и альтернативы

На момент выхода V100 основным конкурентом был AMD Radeon Instinct MI25 (архитектура Vega), который уступал по производительности FP32 (12,3 TFLOPS) и не имел тензорных ядер. В сегменте HPC также присутствовали Intel Xeon Phi (Knights Landing), но их производительность в задачах глубокого обучения была значительно ниже.

В 2020 году V100 была заменена на A100 (архитектура Ampere), которая обеспечила 2–3-кратный прирост производительности благодаря техпроцессу 7 нм и увеличенному числу тензорных ядер.

Критика

Основные замечания в адрес V100 касались:

• Высокого энергопотребления: TDP 250–300 Вт требовал мощных систем охлаждения и увеличивал эксплуатационные расходы дата-центров.
• Ограниченной памяти: версия 16 ГБ была недостаточна для обучения крупных языковых моделей (например, GPT-2 с 1,5 млрд параметров требовал более 32 ГБ).
• Отсутствия поддержки INT8/INT4 на уровне ядер: тензорные ядра V100 работали только с FP16, что ограничивало возможности инференса в форматах с низкой точностью.

Интересные факты

• V100 стала первым GPU, который превысил отметку в 100 TFLOPS в операциях FP16.
• Архитектура Volta была названа в честь итальянского физика Алессандро Вольта.
• Ускоритель использовался для обучения модели GPT-3 (175 млрд параметров) компанией OpenAI, хотя для этого потребовался кластер из тысяч V100.
• В 2019 году NVIDIA выпустила версию V100 с 32 ГБ памяти специально для Китая, чтобы обойти экспортные ограничения США.

Источники

• NVIDIA. «NVIDIA Tesla V100 GPU Architecture». Whitepaper, 2017.
• NVIDIA. «NVIDIA Tesla V100 Datasheet». 2018.
• Top500.org. «Summit Supercomputer Specifications». 2018.
• Mark Harris. «Inside Volta: The World’s Most Advanced Data Center GPU». NVIDIA Developer Blog, 2017.
• Ian Cutress. «The NVIDIA Tesla V100 GPU: Volta Architecture and Performance». AnandTech, 2017.