构建企业级智能体AI环境

英特尔通过数千次智能体AI工作负载实验，为企业领导者总结了五条经验教训。他们认为，智能体AI是一个更大的系统问题，而不仅仅是推理问题，且大多数现有测试工具无法衡量整体系统性能。容量规划应基于每vCPU核心的智能体密度，而非智能体数量。监控智能体任务延迟（P95）比平均CPU利用率更具参考价值。承载智能体的系统应默认采用横向扩展，而纵向扩展仅适用于每智能体计算负荷较重的工作负载。英特尔扩展了Terminal-Bench基准测试，用于对智能体AI工作负载进行基准测试，通过确定性记录-重放大语言模型（LLM）响应，将智能体性能与LLM的随机性分离。任务组合包括编译、测试、数据库操作等。部署智能体AI应分三个阶段进行：按智能体密度规划、采用以P95延迟为重点的新型可观测性、默认进行横向扩展。文章还指出了智能体AI的企业用户角色：负责缩短周期时间、提升生产力和优化成本管理的负责人。