Ускорение обучения трансформеров с помощью NVIDIA Transformer Engine, объединённых ядер, BF16, FP8 и бенчмаркинга GPU
Это руководство исследует, как NVIDIA Transformer Engine ускоряет работу с трансформаторами, сочетая объединённые ядра GPU, вычисления в формате BF16 и аппаратно-зависимое выполнение FP8. Охватываются установка, определение GPU, обзор модулей, настройка рецептов FP8, обучение моделей, бенчмаркинг и авторегрессионная генерация.
MarkTechPost02.08 · 11:02
