トークンからタスクへ：エージェントAIがインフラの焦点をどう変えるか
エージェントAIは、トークン生成から完全なワークフローの実行へと焦点を移しています。新しいパラダイムでは、重要な指標はモデルの速度ではなく、タスクコスト、ツール呼び出しのレイテンシ、サンドボックスの起動時間です。中央処理装置（CPU）とヘッドノードがオーケストレーションにおいて重要な役割を果たします。トークンスループットを重視する従来のベンチマークは、もはや実際のパフォーマンスを反映しません。
Arm
InfoQ 中国28.07 · 01:03