Esperanto Technologies

Esperanto Technologies — американская компания, занимавшаяся разработкой энергоэффективных процессоров для систем искусственного интеллекта и машинного обучения, в первую очередь для задач вывода (inference) нейросетей. Основана в 2014 году в Беркли, Калифорния. Компания известна разработкой процессора ET-SoC-1, который объединяет более тысячи ядер на базе архитектуры RISC-V с тензорными ускорителями.

История

Компания Esperanto Technologies была основана в 2014 году ветеранами полупроводниковой индустрии, включая Дэйва Дицела (Dave Ditzel), ранее работавшего в Intel и Sun Microsystems. Целью стартапа было создание высокопроизводительных, но при этом экономичных чипов для задач искусственного интеллекта, способных конкурировать с решениями на базе графических процессоров (GPU) от NVIDIA и AMD.

В 2015 году компания привлекла начальное финансирование от венчурных фондов, включая Acorn Campus Ventures и другие. В 2018 году Esperanto Technologies объявила о привлечении 58 миллионов долларов в ходе раунда финансирования серии C, а в 2020 году — ещё 60 миллионов долларов, доведя общий объём привлечённых средств до более чем 130 миллионов долларов.

В 2021 году компания анонсировала свой первый процессор — ET-SoC-1, ориентированный на задачи вывода нейросетей. В 2022 году начались поставки образцов и тестирование чипа партнёрами. Однако к 2023 году компания столкнулась с финансовыми трудностями на фоне жёсткой конкуренции и замедления рынка полупроводников. В начале 2024 года Esperanto Technologies прекратила операционную деятельность и была продана, а её активы, включая интеллектуальную собственность, перешли к другим компаниям, в частности, к компании Rivos Inc., занимающейся разработкой RISC-V-процессоров для серверов.

Архитектура процессора ET-SoC-1

Основной продукт компании — система на кристалле (SoC) ET-SoC-1, предназначенная для ускорения вычислений в задачах машинного обучения, в первую очередь для вывода (inference) на серверах и в центрах обработки данных.

Ключевые характеристики

• Количество ядер: 1088 ядер RISC-V, из которых 1024 являются тензорными ядрами (ET-Tensor), а 64 — универсальными ядрами (ET-Minion) для управления и вспомогательных задач.
• Тензорные ядра (ET-Tensor): специализированные процессорные ядра, оптимизированные для матричных операций, лежащих в основе нейросетей. Каждое ядро поддерживает операции с плавающей запятой различной точности, включая FP32, FP16, BF16 и INT8.
• Универсальные ядра (ET-Minion): ядра на архитектуре RISC-V, выполняющие управляющие функции, обработку данных и поддержку операционной системы.
• Память: встроенная память SRAM объёмом до 128 МБ на кристалле, а также поддержка внешней памяти DDR4 и DDR5.
• Энергопотребление: заявленное тепловыделение (TDP) составляет около 15–20 Вт, что значительно ниже, чем у современных GPU с аналогичной производительностью.
• Производительность: по заявлениям компании, ET-SoC-1 способен выполнять до 100 TOPS (триллионов операций в секунду) при точности INT8.

Особенности архитектуры

ET-SoC-1 использует концепцию «множества простых ядер» (manycore), а не несколько мощных ядер, как в GPU. Каждое тензорное ядро ET-Tensor имеет собственный кэш и блок управления, что позволяет эффективно распараллеливать вычисления. Процессор поддерживает стандартные фреймворки машинного обучения, такие как TensorFlow, PyTorch и ONNX, через собственный стек программного обеспечения.

Применение

Процессоры Esperanto Technologies были ориентированы на следующие области:

• Серверное ускорение ИИ: использование в центрах обработки данных для вывода нейросетей в реальном времени, например, для распознавания изображений, обработки естественного языка и рекомендательных систем.
• Пограничные вычисления (edge computing): благодаря низкому энергопотреблению, чипы могли применяться в устройствах на границе сети, таких как камеры видеонаблюдения, промышленные контроллеры и автономные транспортные средства.
• Облачные вычисления: интеграция в облачные платформы для предоставления услуг машинного обучения как сервиса (MLaaS).

Конкуренция и рыночная позиция

Esperanto Technologies конкурировала с такими компаниями, как NVIDIA (с её GPU и тензорными ядрами), Intel (с процессорами Habana Labs и Gaudi), AMD (с GPU Instinct), а также с многочисленными стартапами, разрабатывающими специализированные чипы для ИИ, включая Graphcore, Cerebras Systems и Groq.

Основным преимуществом ET-SoC-1 называлась высокая энергоэффективность: при производительности, сопоставимой с младшими моделями GPU, энергопотребление было в несколько раз ниже. Однако недостатком стала более сложная программная экосистема по сравнению с доминирующей платформой CUDA от NVIDIA, что ограничивало массовое внедрение.

Программное обеспечение

Компания разработала собственный стек программного обеспечения для работы с ET-SoC-1, включающий:

• Компилятор, оптимизирующий код для тензорных ядер.
• Библиотеки для популярных фреймворков машинного обучения (TensorFlow, PyTorch).
• Драйверы для операционных систем Linux и поддержку контейнеризации (Docker).
• Инструменты для профилирования и отладки производительности.

Интересные факты

• Название компании «Esperanto» отсылает к искусственному языку эсперанто, символизируя идею универсальности и совместимости архитектуры RISC-V с различными вычислительными задачами.
• Процессор ET-SoC-1 содержал 24 миллиарда транзисторов, что на момент анонса (2021 год) было одним из самых высоких показателей среди чипов для ИИ.
• Компания использовала производственные мощности TSMC (Тайвань) по техпроцессу 7 нм.
• После закрытия Esperanto Technologies её ключевые технологии и патенты были приобретены компанией Rivos Inc., которая продолжает разработку RISC-V-процессоров для серверов.

Критика

Основные критические замечания в адрес Esperanto Technologies касались сложности и высокой стоимости внедрения новой архитектуры в условиях доминирования платформы NVIDIA CUDA. Несмотря на заявленную энергоэффективность, реальная производительность в задачах вывода нейросетей часто оказывалась ниже, чем у современных GPU, из-за меньшей оптимизации программного обеспечения. Кроме того, компания не смогла привлечь достаточное количество крупных заказчиков, что в конечном итоге привело к финансовым трудностям и закрытию.

Источники

• Официальные пресс-релизы Esperanto Technologies (2014–2023).
• Статья «Esperanto Technologies Unveils ET-SoC-1: A 1088-Core RISC-V AI Accelerator» на сайте AnandTech (2021).
• Публикация «Esperanto Technologies Raises $60M for RISC-V AI Chips» на сайте VentureBeat (2020).
• Материалы о продаже активов компании Rivos Inc. (2024).
• Аналитические отчёты полупроводниковой отрасли за 2021–2024 годы.