エンタープライズAIの真の課題はもはやモデルではなく運用にある

2026年6月におけるエンタープライズAIの大きな変化は、新たなLLMの登場ではなく、エージェントを運用するための規律としてMLOpsが出現したことです。これには、ビジネスコンテキスト、ガバナンス、可観測性、ユニット推論コストという4つの主要な課題があります。Google Cloudは、エージェントを構築し、スケーリングし、ガバナンスし、最適化するためのGemini Enterprise Agent Platformを立ち上げました。一方、MicrosoftはBuild 2026で、ボトルネックはモデルの性能ではなく、エージェントに一貫性のあるデータコンテキストを提供することにあると強調しました。AWSのBedrock AgentCoreは、運用上の活用に焦点を当て、本番トレースを使用してシステムを改善し、サイレント障害のリスクを強調しています。Databricksは、エージェントループは目に見える1%に過ぎず、残りの99%はデプロイ、セキュリティ、評価、コンテキストに関わると主張しています。MLOpsスタックは、エージェントランタイム、メモリ、アイデンティティ、ゲートウェイ、トレーシングを含むように進化しています。GoogleのAgent Identityは、SPIFFE標準を使用して暗号化アテステーションを実現し、AWSのAgentCoreゲートウェイは、モデルコンテキストプロトコルを使用して既存のAPIを統合します。可観測性には現在、MLflow 3やAWSのAgentCore Observabilityに見られるように、質的評価が含まれています。インフラストラクチャは、CNCFのInference Gatewayが一般提供（GA）に達するなど、よりプラットフォーム指向になっています。FinOpsも変化しています。FlexeraのState of the Cloud 2026によると、組織の58%がパブリッククラウドのGenAIサービスを利用し、73%がハイブリッド運用を採用し、49%がユニットエコノミクスを導入しています。エージェントシステムは、モデルAPIに加えて、ゲートウェイ呼び出し、メモリ、可観測性などのコストが発生します。欧州では、6月3日にクラウドおよびAI開発法が提案され、AI法は2026年8月2日から完全に適用されます。欧州企業は、依存度を減らし、主権の懸念に対処するために、サプライヤーの多様化を進めています。