AMD и Cerebras объединились для разработки платформы инференса ИИ с ультранизкой задержкой
Cerebras Systems
NVIDIA
AMD и Cerebras Systems создают вычислительную платформу, объединяющую ускорители AMD Instinct и чипы Cerebras WSE на базе памяти SRAM для инференса ИИ-агентов с низкой задержкой. Решение, доступное в Cerebras Cloud в этом году, позволяет генерировать в пять раз больше токенов на ватт и требует меньше чипов, чем аналогичные системы конкурентов.
AMD и Cerebras Systems объявили о совместной разработке вычислительной платформы, которая сочетает ускорители AMD Instinct и чипы Cerebras Wafer Scale Engine (WSE) со встроенной памятью SRAM. Платформа предназначена для инференса ИИ-агентов — этапа, требующего большого объёма быстрой памяти. По словам главы Cerebras Эндрю Фельдмана, проект закрывает пробел в портфеле AMD, возникший после покупки
Показать ещё ↓
- Сокращения
- SRAM = Static Random-Access Memory — статическая оперативная память с произвольным доступом
- HBM4 = High Bandwidth Memory 4 — высокопропускная память четвёртого поколения
- WSE = Wafer Scale Engine — чип-scale процессор на целой пластине
Источник: 3DNews —
оригинал