Sand.ai открывает исходный код первой в мире видеомодели с 100 млрд параметров на архитектуре MoE: 114 млрд параметров, 6 млрд активных

Компания Sand.ai выпустила MAGI-2-preview — первую в мире видеогенерационную модель с открытым исходным кодом, содержащую более 100 миллиардов параметров и использующую архитектуру смеси экспертов. Модель имеет 114 миллиардов параметров, но активирует только около 6 миллиардов за прямой проход, что позволяет генерировать 10-секундное видео в разрешении 1080p всего за 0,5 юаня, что примерно в десять раз дешевле, чем у主流 моделей. Она занимает шестое место в бенчмарке AA по генерации видео, демонстрируя высокую производительность при минимальной активации.