De Tokens a Tareas: Cómo la IA Agentiva Está Cambiando el Enfoque de la Infraestructura

La IA agentiva está desplazando el enfoque de la generación de tokens a la ejecución de flujos de trabajo completos. En este nuevo paradigma, las métricas clave no son la velocidad del modelo, sino el costo de las tareas, la latencia de las llamadas a herramientas y el tiempo de inicio del entorno aislado. La unidad central de procesamiento (CPU) y el nodo principal desempeñan un papel crucial en la orquestación. Los puntos de referencia tradicionales que enfatizan el rendimiento de tokens ya no reflejan el rendimiento real.

Arm

Nadella: Las empresas que dependen de un solo sistema de IA podrían no sobrevivir

El CEO de Microsoft, Satya Nadella, advierte que las empresas que confían únicamente en modelos de laboratorios de IA propietarios corren el riesgo de perder el control de sus datos y su pensamiento, y podrían no sobrevivir. Aconseja a las empresas conservar metadatos para entrenar sus propios modelos o usar modelos abiertos, y mantener la infraestructura de agentes de IA separada de los proveedores de modelos.

Microsoft Anthropic OpenAI