10-секундного видео в разрешении 1080p стоит всего 0,5 юаня, что примерно в десять раз дешевле, чем у ведущих моделей. MAGI-2-preview занимает шестое место в бенчмарке генерации видео AA, демонстрируя производительность, близкую к топовым моделям, несмотря на всего 6 миллиардов активируемых параметров. В модели используется однопоточная архитектура, где текстовые, видео- и аудиотокены обрабатываются вместе в едином трансформере, что обеспечивает лучшую синхронизацию аудио и видео. Применяется Multi-Head LatentMoE, разделяющий скрытое представление размерностью 3072 на 12 голов по 256 размерностей каждая, с независимой маршрутизацией для каждой головы, что позволяет каждому токену активировать 72 маленьких эксперта в 36 слоях, всего 3072 эксперта на слой. Sand.ai разработала собственную библиотеку ядер MagiMoE и стратегию Head Parallel для оптимизации коммуникаций и вычислений при работе с длинными последовательностями, используя Muon для матричных параметров и AdamW для параметров экспертов. Стратегия работы с данными фокусируется на организации разнообразных данных, а не на их фильтрации, а обучение разделено на предварительное обучение для широкого охвата и постобучение для выравнивания и безопасности. Открытие исходного кода этой модели меняет индустрию, предоставляя исследователям публичный объект для изучения, компаниям — возможность частного развертывания, и усиливая конкуренцию между открытыми и закрытыми моделями. Sand.ai, основанная Цао Юэ, соавтором Swin Transformer, продолжает свой нетрадиционный путь, и её работу похвалил Кай-Фу Ли, назвав её «DeepSeek в области генерации ИИ-видео».