HBM2

HBM2 (High Bandwidth Memory 2, память с высокой пропускной способностью второго поколения) — это тип компьютерной оперативной памяти, разработанный для обеспечения исключительно высокой пропускной способности при относительно низком энергопотреблении и компактных физических размерах. HBM2 является эволюционным развитием стандарта HBM и применяется преимущественно в высокопроизводительных вычислительных системах, графических ускорителях, суперкомпьютерах и серверных решениях, где требуется быстрый обмен данными между процессором и памятью.

История разработки

Разработка HBM2 была инициирована консорциумом JEDEC (Joint Electron Device Engineering Council) как ответ на растущие потребности индустрии в увеличении пропускной способности памяти при сохранении или снижении энергопотребления. Первое поколение HBM, представленное в 2013 году, продемонстрировало значительный прирост производительности по сравнению с традиционной памятью GDDR5, однако имело ограничения по ёмкости и частоте.

Стандарт HBM2 был официально утверждён JEDEC в январе 2016 года. Основными целями разработки стали:

• увеличение максимальной ёмкости одного кристалла памяти;
• повышение тактовой частоты и, соответственно, пропускной способности;
• снижение напряжения питания для уменьшения тепловыделения.

Первые коммерческие продукты, использующие HBM2, появились в 2016 году. Компания AMD (производитель оборудования, не признана экстремистской или нежелательной в РФ) начала применять HBM2 в своих графических ускорителях серии Radeon RX Vega, а NVIDIA (производитель оборудования, не признана экстремистской или нежелательной в РФ) — в ускорителях Tesla P100 и Quadro GV100. В последующие годы HBM2 активно внедрялась в суперкомпьютерные системы, например, в японский вычислитель Fugaku и американский Summit.

Технические характеристики

Архитектура и устройство

HBM2, как и предшественник, использует трёхмерную (3D) укладку кристаллов памяти (DRAM) на кремниевый интерпозер (silicon interposer), который соединяет их с логическим кристаллом (например, GPU или CPU). Каждый стек HBM2 состоит из нескольких слоёв (обычно от 4 до 8) кристаллов DRAM, соединённых вертикальными каналами — сквозными кремниевыми переходами (TSV, Through-Silicon Via). Такая архитектура позволяет разместить большой объём памяти на минимальной площади подложки.

Пропускная способность и ёмкость

Ключевой характеристикой HBM2 является высокая пропускная способность. Каждый стек HBM2 имеет 8 независимых каналов доступа, каждый из которых работает на частоте до 2 ГГц (эффективная частота — до 2 Гбит/с на контакт). Ширина шины одного стека составляет 1024 бита. Таким образом, один стек HBM2 обеспечивает пропускную способность до 256 ГБ/с (при частоте 2 ГГц). Для сравнения: один модуль GDDR6 с 32-битной шиной обеспечивает около 64 ГБ/с.

Максимальная ёмкость одного стека HBM2 составляет 8 ГБ (при использовании 8 кристаллов по 1 ГБ). В типовых конфигурациях используются 4 стека, что даёт общую ёмкость 32 ГБ и пропускную способность до 1 ТБ/с.

Энергопотребление

HBM2 работает при напряжении 1,2 В (против 1,35–1,5 В у GDDR5). Энергопотребление одного стека HBM2 составляет около 15–20 Вт при полной нагрузке. Благодаря трёхмерной компоновке и коротким соединениям, HBM2 демонстрирует значительно лучшую энергоэффективность по сравнению с традиционной памятью: отношение пропускной способности к потребляемой мощности (ГБ/с на ватт) у HBM2 может быть в 2–3 раза выше, чем у GDDR6.

Классификация и версии

HBM2E (расширенная версия)

В 2018 году JEDEC анонсировал расширенную спецификацию HBM2E (Enhanced), которая увеличила максимальную ёмкость одного стека до 24 ГБ (за счёт использования кристаллов ёмкостью 2–3 ГБ) и повысила пропускную способность до 3,2 Гбит/с на контакт. Это позволило достичь пропускной способности до 410 ГБ/с на стек. HBM2E используется в суперкомпьютерах следующего поколения, например, в системе Frontier.

HBM3 (следующее поколение)

В 2022 году был представлен стандарт HBM3, который является прямым развитием HBM2. HBM3 предлагает ещё более высокую пропускную способность (до 819 ГБ/с на стек) и ёмкость (до 64 ГБ на стек), а также улучшенную коррекцию ошибок (ECC). Однако HBM2 остаётся широко распространённым в продуктах, выпущенных до 2023 года.

Применение

Графические ускорители

HBM2 нашла широкое применение в профессиональных и серверных графических ускорителях. Компания AMD использовала HBM2 в линейках Radeon RX Vega (2017), Radeon VII (2019) и профессиональных картах Radeon Pro WX 9100. NVIDIA применяла HBM2 в ускорителях Tesla P100 (2016), Tesla V100 (2017) и Quadro GV100 (2018). В игровых видеокартах HBM2 использовалась редко из-за высокой стоимости производства; основным исключением стала AMD Radeon RX Vega 64.

Суперкомпьютеры

HBM2 является ключевым компонентом многих современных суперкомпьютеров. Например:

• Fugaku (Япония, 2020) — использует процессоры Fujitsu A64FX с интегрированной HBM2 (48 ГБ на узел, пропускная способность 1 ТБ/с на узел).
• Summit (США, 2018) — применяет ускорители NVIDIA Tesla V100 с HBM2.
• Lomonosov-2 (Россия, МГУ) — использует ускорители NVIDIA Tesla P100 с HBM2.

Системы искусственного интеллекта

HBM2 активно применяется в ускорителях для обучения и инференса нейронных сетей. Высокая пропускная способность памяти критически важна для работы с большими матрицами и тензорами, характерными для глубокого обучения. Например, ускорители Google TPU v3 и v4 используют HBM2 (или её последующие версии) для обеспечения высокой производительности.

Встраиваемые системы и HPC

Благодаря компактным размерам и низкому энергопотреблению, HBM2 применяется в некоторых встраиваемых системах высокопроизводительных вычислений (HPC), а также в специализированных FPGA-ускорителях (например, Intel Stratix 10 MX).

Преимущества и недостатки

Преимущества

• Высочайшая пропускная способность: до 1 ТБ/с в многомодульных конфигурациях.
• Низкое энергопотребление: значительно ниже, чем у GDDR5/GDDR6 при сопоставимой производительности.
• Компактность: трёхмерная укладка позволяет разместить 32 ГБ памяти на площади около 1–2 см².
• Интеграция с логикой: расположение на одном интерпозере с процессором снижает задержки и упрощает трассировку.

Недостатки

• Высокая стоимость производства: использование кремниевого интерпозера и TSV требует сложных технологических процессов, что делает HBM2 значительно дороже GDDR6.
• Ограниченная ёмкость на стек: максимальная ёмкость 8 ГБ на стек (до 24 ГБ для HBM2E) может быть недостаточной для некоторых приложений.
• Сложность охлаждения: из-за плотной укладки и высокого тепловыделения на единицу площади требуется эффективное охлаждение (часто жидкостное).
• Ограниченная доступность: HBM2 производится ограниченным числом компаний (Samsung, SK Hynix, Micron), что влияет на рыночную цену.

Интересные факты

• HBM2 стала первой памятью, использующей 3D-укладку кристаллов в массовых продуктах.
• В суперкомпьютере Fugaku используется 48 ГБ HBM2 на каждом из 158 976 процессоров, что в сумме составляет около 7,6 ПБ памяти.
• HBM2 применяется в некоторых моделях процессоров Intel Xeon Phi (серия Knights Landing), хотя и в ограниченном объёме.
• Технология HBM2 была разработана при активном участии компаний AMD, SK Hynix и Samsung, а стандартизирована JEDEC.

Источники

• JEDEC Standard JESD235B: High Bandwidth Memory (HBM) DRAM, 2018.
• AMD Radeon RX Vega White Paper, 2017.
• NVIDIA Tesla V100 GPU Architecture Whitepaper, 2017.
• Samsung HBM2 Product Brief, 2016.
• SK Hynix HBM2E Product Overview, 2019.
• Fugaku System Overview, RIKEN Center for Computational Science, 2020.