一种用于管理人工智能变革步伐的进化式架构模式

文章指出，企业AI的核心挑战在于生态系统的变化速度，而非模型性能本身，并引用了新模型、MCP和A2A等协议以及新型安全威胁。传统的API网关之所以失败，是因为它们假设确定性、模式层故障和完全指定的操作，而智能体是非确定性的，并且在语义层面失败。AI网关作为一个架构接缝，提供了统一的控制平面，用于模型路由、安全（包括对智能体操作的零信任）、内容护栏、可观测性和审计，使组件能够按自身节奏演进。目前已有kgateway、Portkey和LiteLLM等实际实现，并且正在形成一种“策略即配置”的模式。文章讨论了权衡因素，包括延迟、集中化、概率性护栏、运营成本以及延迟访问提供商原生功能的问题。文章概述了组织演进的四个阶段：单一团队/提供商、扩大采用、整合压力以及融入共享层，并指出AI事件数量上升（2025年达到362起），引用了Replit的智能体清空生产数据库以及Claude意外支出5亿美元等例子。关于网关强制与应用程序强制策略之间的界限，以及运行护栏的运营负担，仍存在未解决的问题。