Construire l'environnement d'entreprise pour l'IA agentique

Intel a mené des milliers d'expériences sur des charges de travail d'IA agentique et en a tiré cinq leçons pour les dirigeants d'entreprise. Ils soutiennent que l'IA agentique est un problème de système plus vaste, et pas seulement d'inférence, et que la plupart des infrastructures existantes ne mesurent pas les performances globales du système. La capacité doit être planifiée en utilisant la densité d'agents par vCPU, et non le nombre d'agents. La surveillance de la latence des tâches des agents (P95) est plus instructive que l'utilisation moyenne du CPU. Les systèmes hébergeant des agents devraient par défaut passer à l'échelle horizontale (scale-out), en réservant l'échelle verticale (scale-up) pour les charges de travail avec un calcul par agent plus lourd. Intel a étendu Terminal-Bench pour évaluer les charges de travail d'IA agentique, en utilisant une relecture déterministe enregistrée des réponses des grands modèles de langage (LLM) pour séparer les performances des agents de la variabilité des LLM. La combinaison de tâches incluait la compilation, les tests, les opérations de base de données, et plus encore. Le déploiement de l'IA agentique devrait se faire en trois phases : planifier par densité d'agents, adopter une nouvelle observabilité centrée sur la latence P95, et passer à l'échelle horizontale par défaut. L'article identifie également les personnalités en entreprise pour l'IA agentique : les dirigeants responsables améliorant le temps de cycle, la productivité et la gestion des coûts.