NVIDIA Blackwell Ultra: NVFP4, 15 Пфлопс и 288 Гбайт HBM3e, но без FP64
NVIDIA
Taiwan Semiconductor Manufacturing Company
NVIDIA представила подробности об ускорителе Blackwell Ultra: чип имеет 208 млрд транзисторов, 160 SM, 640 тензорных ядер пятого поколения, поддерживает новый формат NVFP4 и оснащается 288 Гбайт HBM3e. Пропускная способность NVFP4-вычислений достигла 15 Пфлопс, а от развития FP64 компания отказалась.
NVIDIA раскрыла подробности архитектуры Blackwell Ultra — обновлённой версии ускорителя Blackwell. Чип состоит из двух кристаллов, соединённых интерфейсом NV-HBI (10 Тбайт/с), содержит 208 млрд транзисторов по техпроцессу TSMC 4NP и насчитывает 160 потоковых мультипроцессоров (SM) с 640 тензорными ядрами пятого поколения и Transformer Engine второго поколения. Производительность в NVFP4 достигает
Показать ещё ↓
- Сокращения
- NV-HBI = NVIDIA High-Bandwidth Interface — высокоскоростной интерфейс NVIDIA
- SM = Streaming Multiprocessor — потоковый мультипроцессор
- GPC = Graphics Processing Cluster — кластер графической обработки
- TMEM = Tensor Memory — тензорная память
- SFU = Special Function Unit — блок специальных функций
- HBM3e = High Bandwidth Memory 3e — высокопропускная память третьего поколения e
- KV-кеш — кэш ключ-значение
- TPS = Tokens Per Second — токенов в секунду
- МВт — мегаватт
Источник: ServerNews —
оригинал