Moonshot AI disponibiliza MoonEP como código aberto: uma biblioteca de paralelismo de especialistas perfeitamente equilibrada para treinamento MoE

A Moonshot AI tornou open-source o MoonEP, uma biblioteca de comunicação de Paralelismo de Especialistas (EP) para cargas de trabalho distribuídas de Mistura de Especialistas (MoE), sob licença MIT. O MoonEP foi lançado como parte do Kimi K3 Open Day, junto com os pesos do modelo K3, relatório técnico e outros codebases de infraestrutura, FlashKDA e AgentEnv. Ele resolve o problema de desequilíbrio de roteadores no paralelismo de especialistas ao impor um invariante rígido de que cada rank recebe exatamente S×K tokens, alcançado por meio de planejamento online de especialistas redundantes pré-carregados antes da computação. O design garante equilíbrio perfeito, planejamento online via um kernel de GPU com sobrecarga insignificante, zero cópia e formas estáticas eliminando sincronização host por camada. Benchmarks contra DeepEP v2 mostram que o tempo de comunicação do MoonEP permanece constante à medida que o desequilíbrio aumenta, enquanto o DeepEP degrada. O treinamento requer B = E/R slots de pré-carregamento; inferência pode usar B = 3–4 sem custo de corretude.