Construindo o ambiente empresarial para IA agentiva

A Intel realizou milhares de experimentos com cargas de trabalho de IA agêntica e extraiu cinco lições para líderes empresariais. Eles argumentam que a IA agêntica é um problema de sistemas maior, não apenas de inferência, e que a maioria das estruturas de teste existentes não mede o desempenho geral do sistema. A capacidade deve ser planejada usando a densidade de agentes por vCPU, e não a contagem de agentes. O monitoramento da latência das tarefas dos agentes (P95) é mais informativo do que a utilização média da CPU. Sistemas que hospedam agentes devem usar como padrão a expansão horizontal (scale-out), reservando a expansão vertical (scale-up) para cargas de trabalho com maior computação por agente. A Intel estendeu o Terminal-Bench para avaliar cargas de trabalho de IA agêntica, usando uma gravação e reprodução determinística das respostas dos modelos de linguagem grandes (LLMs) para separar o desempenho do agente da variabilidade do LLM. A mistura de tarefas incluiu compilação, testes, operações de banco de dados e muito mais. A implantação de IA agêntica deve ocorrer em três fases: planejar por densidade de agentes, adotar nova observabilidade focada na latência P95 e expandir horizontalmente por padrão. O artigo também identifica perfis empresariais para IA agêntica: líderes responsáveis ​​que melhoram o tempo de ciclo, a produtividade e o gerenciamento de custos.