Hardware e Inferencia RSS

Agentes 🇨🇳

De Tokens a Tareas: Cómo la IA Agentiva Está Cambiando el Enfoque de la Infraestructura

La IA agentiva está desplazando el enfoque de la generación de tokens a la ejecución de flujos de trabajo completos. En este nuevo paradigma, las métricas clave no son la velocidad del modelo, sino el costo de las tareas, la latencia de las llamadas a herramientas y el tiempo de inicio del entorno aislado. La unidad central de procesamiento (CPU) y el nodo principal desempeñan un papel crucial en la orquestación. Los puntos de referencia tradicionales que enfatizan el rendimiento de tokens ya no reflejan el rendimiento real.

ArmArm
InfoQ 中国28.07 · 01:03

Verizon anunció un acuerdo de fibra oscura por mil millones de dólares para los centros de datos de Google: el primero de muchos

Verizon anunció un acuerdo con Google por valor de más de mil millones de dólares para utilizar fibra oscura y conectar centros de datos. La compañía también está convirtiendo sus oficinas centrales en pequeños centros de datos para soportar cargas de trabajo de inteligencia artificial en el borde de la red.

Google/DeepMindGoogle/DeepMind
Ars Technica27.07 · 23:03
Noticias frescas