виртуальный процессор (virtual Central Processing Unit, vCPU). Мониторинг задержки выполнения задач агента (процентиль 95, P95) более информативен, чем средняя загрузка центрального процессора (Central Processing Unit, CPU). Системы, размещающие агентов, должны по умолчанию использовать горизонтальное масштабирование (scale-out), оставляя вертикальное масштабирование (scale-up) для нагрузок с более высокими вычислительными потребностями на одного агента. Intel расширила Terminal-Bench для бенчмаркинга нагрузок агентного ИИ, используя детерминированную запись и воспроизведение ответов большой языковой модели (Large Language Model, LLM) для отделения производительности агента от вариативности LLM. Набор задач включал компиляцию, тестирование, операции с базами данных и другое. Внедрение агентного ИИ должно проходить в три этапа: планирование на основе плотности агентов, внедрение новой наблюдаемости с фокусом на P95 задержку и горизонтальное масштабирование по умолчанию. В статье также выделены корпоративные роли для агентного ИИ: ответственные руководители, стремящиеся сократить время цикла, повысить производительность и улучшить управление затратами.