Tencent publica AngelSpec como código abierto: un marco de entrenamiento unificado para MTP y decodificación especulativa en paralelo por bloques en modelos Hy3

Tencent ha publicado como código abierto AngelSpec, un framework de entrenamiento nativo de Torch para modelos borrador de decodificación especulativa. Cubre tanto la predicción autorregresiva de múltiples tokens (MTP, por sus siglas en inglés) como la familia block-parallel DFlash, incluyendo una nueva arquitectura llamada DFly. AngelSpec trata la heterogeneidad de la carga de trabajo como una restricción de primera clase, ofreciendo modelos borrador complementarios para diferentes dominios: MTP para datos orientados a conversaciones y difusión por bloques para código/matemáticas. La ruta MTP utiliza un esquema de parámetros compartidos y múltiples profundidades con despliegue del modelo objetivo para abordar el desajuste entre entrenamiento e inferencia. DFly introduce un condicionamiento híbrido del objetivo y una cabeza autorregresiva condicionada por el predecesor. En Qwen3-8B, DFly alcanza una longitud media aceptada promedio de 5,41, y en Hy3-A21B, 4,79 frente a 3,69 de DFlash y 3,00 de MTP. El framework está construido sobre TorchSpec con funcionalidades como despliegue TTT, entrenamiento de contexto largo de hasta 128 mil tokens y empaquetado de secuencias con conciencia de documento. Hay siete puntos de control disponibles en Hugging Face y ModelScope.