HBM2e

HBM2e (High Bandwidth Memory 2 enhanced, улучшенная память с высокой пропускной способностью второго поколения) — это тип компьютерной оперативной памяти, представляющий собой усовершенствованную версию стандарта HBM2. Разработанная как высокопроизводительное решение для задач, требующих исключительно высокой пропускной способности и энергоэффективности, HBM2e является промежуточным этапом между HBM2 и HBM3, предлагая увеличенную тактовую частоту и, как следствие, более высокую скорость передачи данных.

История и предпосылки создания

Развитие высокопроизводительных вычислений (HPC), искусственного интеллекта (ИИ) и машинного обучения (ML) в конце 2010-х годов привело к возникновению потребности в памяти, способной обеспечить значительно большую пропускную способность, чем традиционные типы памяти, такие как GDDR6. Стандарт HBM2, представленный в 2016 году, предлагал выдающуюся пропускную способность и энергоэффективность за счёт вертикальной 3D-компоновки кристаллов и использования черезкремниевых переходов (TSV). Однако к 2019–2020 годам требования к скорости передачи данных для новых поколений графических процессоров (GPU) и ускорителей ИИ начали превышать возможности HBM2.

В ответ на это альянс JEDEC (Joint Electron Device Engineering Council) и производители памяти, прежде всего Samsung Electronics и SK hynix, начали разработку улучшенной версии HBM2. Не будучи отдельным официальным стандартом JEDEC, HBM2e (часто обозначаемая как HBM2E) стала результатом инженерных усилий по повышению тактовой частоты существующей архитектуры HBM2. Первые образцы HBM2e были анонсированы в 2019–2020 годах. Samsung представила свою версию в августе 2019 года, назвав её «Flashbolt», с заявленной пропускной способностью 3,2 Гбит/с на контакт. SK hynix последовала за ней в 2020 году, анонсировав модули с аналогичными характеристиками.

Технические характеристики и устройство

HBM2e сохраняет основную архитектуру и интерфейс HBM2, но с ключевыми улучшениями в частотных характеристиках.

Ключевые параметры

• Скорость передачи данных: от 3,2 до 3,6 Гбит/с на контакт (пин). Это на 33–50% выше, чем у стандартного HBM2 (2,0 Гбит/с), и значительно превосходит HBM2 (1,6–2,0 Гбит/с).
• Пропускная способность на стек: При 1024-битной шине (стандарт для HBM2) один стек HBM2e обеспечивает пропускную способность от 410 ГБ/с (3,2 Гбит/с) до 461 ГБ/с (3,6 Гбит/с). Для сравнения, стек HBM2 (2,0 Гбит/с) даёт 256 ГБ/с.
• Ёмкость: Каждый стек HBM2e может содержать до 8 кристаллов (8-Hi). При использовании кристаллов плотностью 16 Гбит (2 ГБ) максимальная ёмкость одного стека составляет 16 ГБ (8 × 2 ГБ). Это вдвое больше, чем у стека HBM2 (8 ГБ при 8-Hi и 8 Гбит кристаллах).
• Энергопотребление: Несмотря на рост скорости, HBM2e сохраняет высокую энергоэффективность, характерную для семейства HBM. Энергопотребление на передачу одного бита данных остаётся значительно ниже, чем у GDDR6, что критически важно для систем с большим числом модулей памяти.

Архитектура

HBM2e использует ту же 3D-архитектуру, что и предшественник:

• Кристаллы памяти (DRAM dies): Несколько кристаллов (обычно 4, 8 или 12) укладываются друг на друга и соединяются черезкремниевыми переходами (TSV) — вертикальными каналами, проходящими сквозь кремний.
• Логический кристалл (logic die): В основании стека находится отдельный кристалл, выполняющий функции контроллера памяти и интерфейса. Он управляет буферизацией, коррекцией ошибок (ECC) и взаимодействием с процессором.
• Интерпозер (interposer): Стек HBM2e монтируется на кремниевый интерпозер — промежуточный слой, который обеспечивает широкую шину (1024 бита) между памятью и процессором (GPU, CPU, ASIC). Интерпозер также содержит разводку для соединения нескольких стеков.

Производители и версии

Основными производителями HBM2e являются южнокорейские компании Samsung Electronics и SK hynix.

Samsung Electronics

• Название продукта: Flashbolt.
• Характеристики: Скорость 3,2 Гбит/с на контакт, пропускная способность 410 ГБ/с на стек. Ёмкость стека — до 16 ГБ (8-Hi, 16 Гбит кристаллы).
• Статус: Анонсирована в августе 2019 года, серийное производство начато в 2020 году. Используется в продуктах NVIDIA (например, A100 80GB) и AMD (например, MI250X).

SK hynix

• Название продукта: HBM2E (без отдельного бренда).
• Характеристики: Скорость 3,6 Гбит/с на контакт, пропускная способность 460 ГБ/с на стек. Ёмкость стека — до 16 ГБ (8-Hi, 16 Гбит кристаллы).
• Статус: Анонсирована в июле 2020 года, серийное производство начато в 2021 году. Используется в продуктах AMD (например, MI250X) и NVIDIA (например, H100, H200).

Применение

HBM2e нашла применение в тех областях, где пропускная способность памяти является критическим узким местом производительности.

Высокопроизводительные вычисления (HPC)

Суперкомпьютеры, такие как Fugaku (Япония) и Frontier (США), используют HBM2e. Frontier, первый в мире суперкомпьютер экзафлопсного класса, построенный на базе AMD MI250X, содержит 8 стеков HBM2e на каждый ускоритель, обеспечивая общую пропускную способность памяти около 3,68 ТБ/с на ускоритель.

Искусственный интеллект и машинное обучение

Графические процессоры NVIDIA серий A100, H100 и H200, а также AMD MI200 и MI300, широко применяемые для обучения и инференса больших языковых моделей (LLM), используют HBM2e или HBM3. HBM2e обеспечивает необходимую скорость для работы с большими объёмами данных, характерными для нейросетей.

Графические процессоры (GPU)

Хотя HBM2e редко используется в потребительских видеокартах из-за высокой стоимости, она применяется в профессиональных графических ускорителях, например, в NVIDIA Quadro RTX 8000 (48 ГБ) и AMD Radeon Pro W6800.

Преимущества и недостатки

Преимущества

• Высокая пропускная способность: Значительно превосходит GDDR6 и HBM2.
• Энергоэффективность: Низкое энергопотребление на бит по сравнению с GDDR6.
• Компактность: Вертикальная компоновка экономит место на плате.
• Широкая шина: 1024-битная шина на стек обеспечивает эффективную передачу данных.

Недостатки

• Высокая стоимость: Производство 3D-стекирования и интерпозеров сложное и дорогое.
• Сложность интеграции: Требует специализированной подложки (интерпозера) и сложной разводки.
• Ограниченная доступность: Производство сосредоточено у нескольких производителей.

Сравнение с другими типами памяти

Будущее и развитие

HBM2e стала переходным этапом к HBM3, который был стандартизирован JEDEC в 2021 году. HBM3 предлагает ещё более высокие скорости (до 6,4 Гбит/с) и ёмкость (до 32 ГБ на стек). Однако HBM2e остаётся актуальной для многих систем, выпущенных в 2020–2023 годах. Производство HBM2e продолжалось до начала 2024 года, после чего начался массовый переход на HBM3 и HBM3E. В настоящее время HBM2e считается устаревающим, но всё ещё используемым в некоторых индустриальных и научных проектах.

Источники

• JEDEC Standard JESD235B (HBM2 DRAM Specification)
• Samsung Electronics, "Samsung Introduces 'Flashbolt' HBM2E Memory for Next-Generation HPC Systems", 2019
• SK hynix, "SK hynix Develops World’s Highest Bandwidth HBM2E Memory", 2020
• AnandTech, "HBM2E: The Next Step in High Bandwidth Memory", 2020
• Tom's Hardware, "HBM2E vs HBM3 vs GDDR6: Memory for AI and HPC", 2023