Amazon Web Services Graviton

Amazon Web Services Graviton — это семейство микропроцессоров, разработанных компанией Amazon Web Services (AWS) на базе архитектуры ARM (точнее, её 64-битной версии — ARMv8-A). Процессоры Graviton используются в облачных сервисах AWS для обеспечения работы виртуальных машин (инстансов) и других вычислительных ресурсов. Они ориентированы на достижение высокой производительности на ватт потребляемой энергии, что позволяет снизить стоимость облачных вычислений для определённых типов нагрузок по сравнению с традиционными процессорами архитектуры x86.

История

Разработка процессоров Graviton была начата AWS в середине 2010-х годов. Компания стремилась снизить зависимость от поставщиков процессоров x86 (Intel и AMD) и получить контроль над аппаратной платформой для своих центров обработки данных. Первые слухи о создании собственного чипа появились в 2017 году. В ноябре 2018 года на конференции re:Invent AWS официально анонсировала первое поколение процессора — Graviton.

Первое поколение было разработано на основе 64-битных ядер ARM Cortex-A72, производимых по 16-нм техпроцессу. Инстансы на его базе (семейство A1) были представлены как бюджетное решение для веб-серверов, микросервисов и сред разработки. Однако производительность Graviton1 была значительно ниже, чем у современных на тот момент процессоров Intel Xeon, что ограничивало его применение.

Второе поколение, Graviton2, было анонсировано в декабре 2019 года и стало доступно в 2020 году. Оно использовало собственные ядра, разработанные AWS на основе лицензии ARM, и производилось по 7-нм техпроцессу. Graviton2 значительно превзошёл предшественника по производительности и энергоэффективности, обеспечив, по заявлениям AWS, до 40% лучшего соотношения цена/производительность для некоторых типов рабочих нагрузок по сравнению с инстансами на базе x86 от Intel. Инстансы на Graviton2 (семейства M6g, C6g, R6g и другие) стали широко использоваться для веб-приложений, баз данных, кэширования и контейнеризации.

Третье поколение, Graviton3, было анонсировано в ноябре 2021 года и запущено в 2022 году. Оно производилось по 5-нм техпроцессу. Основные улучшения включали увеличение производительности вычислений с плавающей запятой, поддержку инструкций bfloat16 для машинного обучения, а также встроенную поддержку Pointer Authentication (PAC) для повышения безопасности. Graviton3 также обеспечивал до 50% более высокую производительность по сравнению с Graviton2 в некоторых задачах. В 2023 году было представлено обновление Graviton3E, оптимизированное для высокопроизводительных вычислений (HPC) и моделирования.

Четвёртое поколение, Graviton4, было анонсировано в ноябре 2023 года. Оно основано на 4-нм техпроцессе и содержит до 96 ядер (против 64 у Graviton3). AWS заявляет о значительном увеличении производительности и пропускной способности памяти. Инстансы на Graviton4 (семейство R8g) начали появляться в 2024 году.

Архитектура и характеристики

Процессоры Graviton являются системами на кристалле (SoC), интегрирующими вычислительные ядра, контроллеры памяти, сетевые интерфейсы и другие компоненты на одном кристалле. Это позволяет снизить задержки и повысить энергоэффективность.

Ядра

Все поколения Graviton используют 64-битную архитектуру ARMv8-A. Начиная с Graviton2, AWS применяет собственные разработки ядер, а не готовые решения от ARM. Ядра оптимизированы для облачных нагрузок: они имеют большой кэш, поддерживают многопоточность (SMT — Simultaneous Multithreading), хотя в Graviton2 и Graviton3 она была отключена по умолчанию для повышения предсказуемости производительности. В Graviton4, по некоторым данным, SMT может быть включена для определённых конфигураций.

Память

Процессоры Graviton используют память DDR4 (Graviton2, Graviton3) и DDR5 (Graviton4). Контроллер памяти интегрирован в SoC. Пропускная способность памяти является одним из ключевых параметров, влияющих на производительность в задачах, чувствительных к задержкам (например, базы данных, кэширование).

Сеть и ввод-вывод

В состав SoC входят встроенные контроллеры сети Ethernet (до 100 Гбит/с в Graviton3 и выше) и интерфейсы PCI Express для подключения хранилищ (NVMe SSD) и других устройств. Это позволяет снизить задержки при передаче данных между инстансами.

Энергопотребление

Основное преимущество Graviton — высокая производительность на ватт. По оценкам AWS, инстансы на Graviton2 потребляют примерно на 60% меньше энергии, чем аналогичные инстансы на x86, при выполнении одинаковых задач. Это достигается за счёт более эффективной архитектуры ARM и применения передовых техпроцессов.

Применение

Процессоры Graviton используются в облачных сервисах AWS для предоставления виртуальных машин (инстансов) различных типов. Основные области применения:

Веб-серверы и микросервисы

Инстансы на Graviton (особенно семейства C6g/C7g — Compute Optimized) хорошо подходят для веб-серверов (Nginx, Apache), API-шлюзов и микросервисов, где важна высокая производительность на одно ядро и низкое энергопотребление.

Базы данных

Инстансы на Graviton (семейства R6g/R7g — Memory Optimized) используются для реляционных баз данных (MySQL, PostgreSQL, MariaDB) и NoSQL-решений (Redis, Memcached). Они обеспечивают высокую пропускную способность памяти и низкие задержки.

Контейнеризация и Kubernetes

Благодаря хорошей масштабируемости и экономичности, Graviton широко применяется для запуска контейнеров в Amazon ECS и Amazon EKS. Многие образы Docker и Kubernetes уже поддерживают архитектуру ARM.

Машинное обучение

Graviton3 и Graviton3E поддерживают инструкции bfloat16, что делает их пригодными для обучения и инференса моделей машинного обучения, особенно для задач с небольшими и средними объёмами данных. Для тяжёлых задач (большие языковые модели) AWS предлагает отдельные сервисы на базе GPU (NVIDIA) и собственных ускорителей Trainium и Inferentia.

Высокопроизводительные вычисления (HPC)

Graviton3E оптимизирован для HPC-задач, таких как моделирование, анализ данных и научные расчёты. Он обеспечивает высокую производительность вычислений с плавающей запятой и поддерживает работу с большими объёмами данных.

Преимущества и недостатки

Преимущества

• Энергоэффективность: Значительно более низкое энергопотребление по сравнению с x86-аналогами, что снижает затраты на электроэнергию и охлаждение.
• Цена: Инстансы на Graviton обычно дешевле, чем аналогичные инстансы на x86, при сопоставимой производительности для многих задач.
• Производительность: Для определённых типов нагрузок (веб-серверы, базы данных, микросервисы) Graviton демонстрирует конкурентоспособную производительность.
• Интеграция: Встроенные сетевые и дисковые контроллеры снижают задержки и повышают пропускную способность.

Недостатки

• Совместимость: Не все приложения и библиотеки поддерживают архитектуру ARM. Для работы на Graviton требуется перекомпиляция или использование эмуляции (например, через AWS Nitro Enclaves), что может снизить производительность.
• Производительность в тяжёлых задачах: В задачах, требующих высокой однопоточной производительности или максимальной вычислительной мощности (например, некоторые HPC-приложения, 3D-рендеринг), Graviton может уступать топовым процессорам Intel Xeon и AMD EPYC.
• Зависимость от AWS: Процессоры Graviton доступны исключительно в облаке AWS. Невозможно приобрести их для использования в собственных центрах обработки данных.

Конкуренты

Основными конкурентами Graviton на рынке облачных процессоров являются:

• Intel Xeon — традиционные процессоры для серверов, используемые в AWS, Microsoft Azure, Google Cloud и других облаках.
• AMD EPYC — процессоры с высокой производительностью и конкурентоспособной ценой, также широко представлены в облаках.
• Ampere Computing — компания, разрабатывающая ARM-процессоры для облачных вычислений (Altra, Altra Max), используемые в Microsoft Azure и Oracle Cloud.
• Google Cloud Axion — собственные ARM-процессоры Google, анонсированные в 2024 году.

Интересные факты

• Название «Graviton» происходит от гипотетической элементарной частицы, переносящей гравитационное взаимодействие.
• Процессоры Graviton разрабатываются инженерной командой Annapurna Labs, израильской компанией, приобретённой Amazon в 2015 году.
• AWS использует Graviton не только для инстансов, но и для работы собственных сервисов, таких как Amazon DynamoDB, Amazon ElastiCache и Amazon RDS, что позволяет снизить внутренние затраты.
• Первое поколение Graviton (A1) было критикуемо за низкую производительность, но последующие поколения (Graviton2 и далее) значительно улучшили показатели и получили широкое распространение.

Источники

• Amazon Web Services. «AWS Graviton Processor». Официальная документация.
• Amazon Web Services. «AWS re:Invent 2018, 2019, 2021, 2023. Keynotes and announcements».
• AnandTech. «Amazon’s Graviton2: Inside the Cloud’s First ARM Server SoC».
• The Next Platform. «Amazon’s Graviton3: A Deep Dive».
• TechCrunch. «AWS launches Graviton4, its most powerful custom chip».