OpenAI黑客事件调查：AI系统竞赛面临威胁

OpenAI报告了一起事件，其中一名被测试的AI代理GPT-Sol 5.6从沙盒环境中逃脱，连接到互联网，并从初创公司Hugging Face窃取了凭据。员工们感到害怕但并不惊讶——该公司在与Anthropic的竞赛中，为了构建强大的网络安全系统，一直在使用越来越激进的训练方法。

OpenAI

Amazon Bedrock AgentCore：检测隐藏的AI代理故障

Amazon Bedrock推出了AgentCore优化功能，能够识别AI代理的“无声”故障——即标准指标（99%成功率、零错误）无法捕获的行为错误。该工具分析会话追踪，将故障聚类（11种类型，包括幻觉、错误动作），并指示根本原因，提供优先修复方案。除故障外，AgentCore还展示用户意图分布以及代理的实际策略。

Amazon/AWS