28 billones de tokens no son el límite: el modelo chino Kimi K4 apunta más alto, las GPU son el cuello de botella

Moonshot AI, la desarrolladora de la serie de modelos de lenguaje grande Kimi, ha anunciado su modelo de nueva generación, Kimi K4. El fundador y director ejecutivo de la empresa declaró que la escala de Kimi K4 superará a la de Kimi K3, que fue entrenado con 28,8 billones de tokens. Destacó que la principal limitación del tamaño del modelo no es la ambición tecnológica, sino la disponibilidad de unidades de procesamiento gráfico (GPU), señalando las limitaciones de hardware como el cuello de botella clave.