Groq

أحدث أخبار ونماذج وإصدارات الذكاء الاصطناعي من Groq. ['Groq 3 LP30', 'Groq 3 LPU', 'Groq 3 LPX', 'llama-3.3-70b', 'LPU', 'RealScale']

الموقع الرسمي ↗

الأجهزة والاستدلال 🇷🇺 ⚡

NVIDIA Groq 3: ذاكرة SRAM والفصل والحتمية في منصة الذكاء الاصطناعي الجديدة

بعد استحواذ NVIDIA على شركة Groq مقابل 20 مليار دولار، قامت بدمج مسرعات LPU في منصة Vera Rubin، مما أدى إلى إنشاء بنية غير متجانسة للاستدلال. يعمل مسرع الرف الجديد Groq 3 LPX، استنادًا إلى رقائق Groq 3 LP30 بسعة 500 ميجابايت من ذاكرة SRAM وعرض نطاق ترددي للذاكرة يبلغ 150 تيرابايت في الثانية، على ضمان التنفيذ الحتمي وزمن انتقال منخفض. يتيح الفصل القائم على المرحلة لفك الترميز (AFD) فصل حسابات FFN عن الانتباه، مما يوزع عبء العمل بين وحدات معالجة الرسومات ووحدات LPU.

NVIDIA

Groq

ServerNews27.07 · 15:06

الأجهزة والاستدلال 🇷🇺

إنفيديا تكشف عن مجموعة فيرا روبن بود: خمسة رفوف، سبع شرائح، 1.2 كوادريليون ترانزستور

أعلنت إنفيديا عن مجموعة فيرا روبن بود (Vera Rubin POD)، المبنية على الجيل الثالث من بنية إم جي إكس (MGX). تتضمن المجموعة خمسة أنواع من الرفوف: إن في إل 72 (NVL72)، إل بي إكس (LPX)، فيرا (Vera)، إس تي إكس (STX)، وإس بي إكس (SPX)، وتدمج 1,152 وحدة معالجة رسوميات روبن (Rubin GPU)، و36 وحدة معالجة مركزية فيرا (Vera CPU)، ومكونات أخرى. توفر المجموعة أداءً يبلغ 60 إكسافلوب وسرعة ربط بيني تبلغ 10 بيتابايت/ثانية.

NVIDIA

Groq

ServerNews27.07 · 15:05

عرض المزيد ↓