AMD وCerebras تتحدان لتطوير منصة استدلال ذكاء اصطناعي فائقة السرعة

Cerebras SystemsCerebras Systems NVIDIANVIDIA
تتعاون AMD وCerebras Systems لإنشاء منصة حوسبة تجمع بين مسرعات AMD Instinct ورقائق Cerebras WSE المعتمدة على ذاكرة SRAM للاستدلال منخفض الزمن الكامن لعوامل الذكاء الاصطناعي. الحل، الذي سيتوفر في سحابة Cerebras هذا العام، يولد خمسة أضعاف الرموز (tokens) لكل واط ويتطلب رقائق أقل من الأنظمة المماثلة من المنافسين.
AMD и Cerebras Systems объявили о совместной разработке вычислительной платформы, которая сочетает ускорители AMD Instinct и чипы Cerebras Wafer Scale Engine (WSE) со встроенной памятью SRAM. Платформа предназначена для инференса ИИ-агентов — этапа, требующего большого объёма быстрой памяти. По словам главы Cerebras Эндрю Фельдмана, проект закрывает пробел в портфеле AMD, возникший после покупки Nvidia стартапа Groq за $20 млрд. Чипы Cerebras WSE используют SRAM вместо HBM4, что обеспечивает скорость генерации более 2000 токенов в секунду. В гибридной системе сложные запросы обрабатываются на ускорителях AMD Instinct, а генерация токенов делегируется Cerebras WSE, что повышает энергоэффективность в пять раз (токенов на ватт). Для сравнения: для обслуживания модели Kimi K2.5 (1 трлн параметров) требуется две тысячи чипов Groq, а в системе AMD и Cerebras — всего несколько десятков. Объединённое решение станет доступно в Cerebras Cloud до конца года.
المصدر: 3DNews — الأصلي
منشوراتنا السابقة حول هذا الموضوع ↓
أخبار جديدة