Thách thức thực sự của AI doanh nghiệp không còn là mô hình mà là vận hành

2026年6月企业AI领域的重大转变并非又一个LLM的出现，而是MLOps作为代理运维学科的兴起，其面临四大关键挑战：业务上下文、治理、可观测性和单位推理成本。Google Cloud推出了Gemini Enterprise Agent Platform，用于构建、扩展、治理和优化代理；而Microsoft在2026年Build大会上强调，瓶颈不在于模型能力，而在于为代理提供连贯的数据上下文。AWS的Bedrock AgentCore专注于运营利用，利用生产追踪来改进系统，并强调静默失败的风险。Databricks认为，代理循环只是可见的1%，其余99%涉及部署、安全、评估和上下文。MLOps技术栈正在演进，包括代理运行时、内存、身份、网关和追踪。Google的Agent Identity使用SPIFFE标准进行加密认证，AWS的AgentCore Gateway通过模型上下文协议集成现有API。可观测性现在包括定性评估，如MLflow 3和AWS的AgentCore Observability所示。基础设施正变得更加平台化，CNCF的Inference Gateway达到正式可用状态。FinOps正在改变：Flexera的2026年云现状报告显示，58%的组织使用公有云生成式AI服务，73%采用混合云，49%使用单位经济学。代理系统产生的成本不仅限于模型API，还包括网关调用、内存和可观测性。在欧洲，云与AI发展法案于6月3日提出，AI法案从2026年8月2日起全面适用。欧洲公司正在多元化供应商，以减少依赖并解决主权问题。