Cómo reduje un embedder ruso a 24 millones de parámetros — y casi lo arruino con un solo dígito

Un ingeniero entrenó un recuperador denso ruso ligero, STRIZH, con 24,4 millones de parámetros y 4 capas, para RAG local en GPU compartida. Un único número incorrecto en la configuración del tokenizador (model_max_length=256) redujo Recall@10 de 0,589 a 0,448, casi anulando el trabajo. El modelo está pensado para recuperación rápida de primera etapa en AMD Strix Halo, compitiendo con bge-m3 en escenarios de co-residencia.

DeepPavlov BAAI Microsoft

Hygon DCU completa la adaptación para Kimi K3 Day0

La Unidad de Centro de Datos (DCU) de Hygon ha completado la adaptación Day0 para el modelo Kimi K3 de Moonshot AI, permitiendo el despliegue rápido del modelo de lenguaje de gran escala en la plataforma de hardware de Hygon.

Hygon (Zhongke Haiguang) Moonshot AI