エンタープライズ向けエージェンティックAI環境の構築

IntelはエージェンティックAIのワークロードに関する数百件の実験を実施し、エンタープライズリーダー向けに5つの教訓を導き出しました。エージェンティックAIは単なる推論ではなく、より大きなシステム問題であり、既存のテスト用ハーネスの大半はシステム全体のパフォーマンスを測定していないと主張しています。キャパシティ計画はエージェント数ではなく、仮想CPUあたりのエージェント密度を使用して行うべきです。エージェントのタスクレイテンシ（95パーセンタイル）を監視することが、平均CPU使用率よりも有益です。エージェントをホストするシステムはデフォルトでスケールアウトとし、エージェントあたりのコンピュート負荷が高いワークロードにはスケールアップを予約すべきです。IntelはTerminal-Benchを拡張し、エージェンティックAIワークロードのベンチマークを実施。LLM応答の決定論的記録・再生を用いて、エージェントのパフォーマンスをLLMの変動から分離しました。タスク構成にはコンパイル、テスト、データベース操作などが含まれています。エージェンティックAIの導入は、エージェント密度による計画、95パーセンタイルレイテンシに焦点を当てた新たな可観測性の採用、そしてデフォルトでのスケールアウトという3段階で進めるべきです。記事ではまた、エンタープライズ向けエージェンティックAIのペルソナとして、サイクルタイム、生産性、コスト管理の改善を目指すアカウンタブルリーダーを特定しています。