Amazon Graviton3

Amazon Graviton3 — это серия серверных микропроцессоров с архитектурой ARM, разработанная компанией Amazon Web Services (AWS) для использования в собственных облачных сервисах. Процессоры третьего поколения Graviton, представленные в 2021 году, ориентированы на высокопроизводительные вычисления, энергоэффективность и оптимизацию для облачных нагрузок. Они являются частью стратегии AWS по снижению зависимости от процессоров архитектуры x86 (Intel и AMD) и созданию собственных чипов для повышения производительности и снижения затрат.

История

Разработка процессоров Graviton началась в 2015 году, когда AWS приобрела израильский стартап Annapurna Labs. Первое поколение, Graviton, было выпущено в 2018 году на базе 64-битных ядер ARM Cortex-A72. Второе поколение, Graviton2, появилось в 2020 году и использовало собственные ядра AWS Neoverse N1, что обеспечило значительный прирост производительности. Graviton3 был анонсирован в ноябре 2021 года на конференции AWS re:Invent, а коммерческая доступность началась в 2022 году. Процессоры производятся на 5-нм техпроцессе компанией TSMC, что позволило увеличить плотность транзисторов и снизить энергопотребление.

Архитектура и характеристики

Ядра и кэш-память

Graviton3 использует 64-битные ядра ARM Neoverse V1, спроектированные специально для серверных нагрузок. Каждое ядро поддерживает технологию SMT (Simultaneous Multithreading), позволяя обрабатывать два потока одновременно. Процессор содержит до 64 ядер, в зависимости от конфигурации. Кэш-память третьего уровня (L3) увеличена до 32 МБ, а кэш второго уровня (L2) — до 1 МБ на ядро. Это улучшает производительность при работе с большими объёмами данных.

Производительность

По заявлениям AWS, Graviton3 обеспечивает до 25% прироста производительности по сравнению с Graviton2 в вычислительных задачах. В операциях с плавающей запятой (FP) и целочисленных вычислениях (INT) прирост достигает 30-40%. Процессор поддерживает инструкции ARMv8.4-A, включая расширения для криптографии и машинного обучения.

Энергоэффективность

Одним из ключевых преимуществ Graviton3 является снижение энергопотребления. По сравнению с процессорами x86 аналогичного класса (например, Intel Xeon Platinum 8375C), Graviton3 потребляет до 60% меньше энергии при выполнении типовых облачных нагрузок. Это достигается за счёт архитектуры ARM, оптимизированной для энергоэффективности, и 5-нм техпроцесса.

Память и ввод-вывод

Graviton3 поддерживает память DDR5 с частотой до 4800 МТ/с, что на 50% выше, чем у Graviton2 (DDR4). Пропускная способность памяти увеличена до 300 ГБ/с. Процессор оснащён 64 линиями PCIe 5.0, что вдвое увеличивает пропускную способность ввода-вывода по сравнению с предыдущим поколением. Это важно для высокоскоростных сетевых интерфейсов и NVMe-накопителей.

Применение

Облачные вычисления

Graviton3 используется в сервисах AWS, таких как Amazon EC2, где предлагаются инстансы семейства C7g (вычислительные), M7g (универсальные) и R7g (оптимизированные по памяти). Эти инстансы подходят для веб-серверов, баз данных, кэширования, микросервисов и контейнерных сред. По данным AWS, инстансы на Graviton3 обеспечивают до 25% лучшего соотношения цены и производительности по сравнению с аналогичными x86-инстансами.

Высокопроизводительные вычисления (HPC)

Graviton3 применяется в задачах, требующих интенсивных вычислений: научное моделирование, анализ генома, обработка изображений и видео. Процессор поддерживает векторные инструкции SVE (Scalable Vector Extension), что ускоряет выполнение параллельных алгоритмов. В тестах HPC Graviton3 демонстрирует производительность, сопоставимую с процессорами Intel Xeon Scalable 3-го поколения.

Машинное обучение и ИИ

Graviton3 включает аппаратное ускорение для операций машинного обучения, в частности, поддержку инструкций BFloat16 и INT8. Это позволяет эффективно выполнять инференс (вывод) моделей нейросетей, особенно в задачах обработки естественного языка и компьютерного зрения. Однако для тренировки крупных моделей Graviton3 уступает специализированным ускорителям, таким как AWS Trainium или NVIDIA GPU.

Энергоэффективные дата-центры

Благодаря низкому энергопотреблению, Graviton3 используется в проектах, где важна минимизация затрат на электроэнергию и охлаждение. AWS внедряет эти процессоры в свои дата-центры для снижения углеродного следа, что соответствует целям устойчивого развития компании.

Классификация и сравнение

Graviton3 против Graviton2

Основные улучшения Graviton3 по сравнению с предшественником:

• 5-нм техпроцесс (против 7-нм у Graviton2);
• Ядра Neoverse V1 (против Neoverse N1);
• Поддержка DDR5 и PCIe 5.0;
• Увеличенный кэш L3 (32 МБ против 16 МБ);
• Прирост производительности до 25% при снижении энергопотребления на 20%.

Graviton3 против процессоров x86

По сравнению с Intel Xeon Platinum 8375C (3-е поколение) и AMD EPYC 7R13, Graviton3 демонстрирует:

• До 60% меньшее энергопотребление при одинаковой нагрузке;
• Сопоставимую производительность в веб-серверах и базах данных;
• Отставание в задачах с плавающей запятой высокой точности (FP64) и некоторых HPC-приложениях.

Интересные факты

• Graviton3 стал первым процессором AWS, использующим 5-нм техпроцесс. Это позволило разместить до 64 ядер на одном чипе при площади кристалла около 300 мм².
• Процессор поддерживает технологию Armv8.4-A, включая аппаратную защиту от атак типа Spectre и Meltdown.
• Инстансы на Graviton3 доступны в 12 регионах AWS по всему миру, включая регионы в США, Европе, Азии и Австралии.
• AWS заявляет, что Graviton3 обеспечивает до 40% лучшую производительность на ватт по сравнению с процессорами Intel Xeon 3-го поколения в задачах веб-серверов.
• В 2023 году AWS анонсировала Graviton3E — версию с улучшенной производительностью для HPC-задач, которая получила увеличенный кэш и поддержку дополнительных векторных инструкций.

Критика и ограничения

Несмотря на преимущества, Graviton3 имеет ряд ограничений. Основным недостатком является ограниченная совместимость с программным обеспечением, написанным для архитектуры x86. Хотя многие приложения с открытым исходным кодом (Linux, PostgreSQL, Nginx) уже портированы на ARM, проприетарные программы и старые версии могут требовать перекомпиляции или эмуляции. Кроме того, в задачах с интенсивными вычислениями с плавающей запятой двойной точности (FP64) Graviton3 уступает процессорам AMD EPYC, которые имеют большее количество ядер и более высокую тактовую частоту. Также отмечается, что для некоторых HPC-нагрузок Graviton3 менее эффективен из-за отсутствия поддержки инструкций AVX-512, распространённых в x86-процессорах.

Перспективы

AWS продолжает развивать линейку Graviton. В 2023 году был анонсирован Graviton4, который, по неофициальным данным, будет использовать 3-нм техпроцесс и ядра Neoverse V2. Ожидается, что новое поколение обеспечит ещё больший прирост производительности и энергоэффективности, а также расширит поддержку HPC и ИИ-нагрузок. Процессоры Graviton3 остаются актуальными для широкого круга облачных задач, особенно в сценариях, где важна экономия энергии и снижение затрат.

Источники

• AWS. "AWS Graviton3 Processors." Amazon Web Services, 2022.
• TSMC. "5nm Technology." Taiwan Semiconductor Manufacturing Company, 2021.
• Arm Holdings. "Arm Neoverse V1 Platform." Arm Developer Documentation, 2021.
• AnandTech. "AWS Graviton3: Deep Dive into the New ARM Server Processor." 2022.
• Phoronix. "Benchmarking AWS Graviton3 vs. Intel Xeon and AMD EPYC." 2022.
• AWS. "Amazon EC2 C7g Instances." Amazon Web Services Documentation, 2023.