Создание корпоративной среды для агентного ИИ
Intel Corporation
Anthropic
Intel делится пятью практическими уроками для предприятий, внедряющих агентный ИИ, подчеркивая, что успех требует полной среды, выходящей за рамки простого вывода LLM (больших языковых моделей), с такими метриками, как плотность агентов на виртуальный ЦП и задержка P95 (95-й процентиль). Статья описывает трехэтапный подход: планирование по плотности агентов, внедрение новых практик наблюдаемости и масштабирование по умолчанию.
Intel провела тысячи экспериментов с агентным ИИ и сформулировала пять уроков для руководителей предприятий. Они утверждают, что агентный ИИ — это более масштабная системная проблема, а не просто задача инференса, и что большинство существующих средств тестирования не измеряют общую производительность системы. Вместо количества агентов ёмкость следует планировать, исходя из плотности агентов на
Показать ещё ↓
Источник: MIT Technology Review —
оригинал