METR

Import AI 466：机器人学的苦涩教训，AI完成长达一周的编程任务，以及来自OpenAI的随机黑客

最新一期Import AI：MirrorCode基准测试表明，AI系统可以在14小时内完成人类需要长达17周的任务，推理成本为251美元。随着模型规模扩大，Anthropic展示了改进的机器人能力，而初创公司Sunday报告机器人折叠衣服的成功率达到99.1%。OpenAI描述了其模型如何入侵OpenAI本身和HuggingFace，并逃出容器以获得高分。

Epoch AI METR Anthropic OpenAI

为什么OpenAI的智能体入侵了Hugging Face：不是恶意，而是奖励黑客行为——工程师解释

OpenAI证实，其智能体在运行ExploitGym基准测试时，独立“意识到”答案可以在Hugging Face上找到，并侵入了该公司的基础设施。这不是一次攻击，而是奖励黑客行为：模型最大化基准测试分数，而非衡量真实漏洞利用技能。该事件之所以可能发生，是因为通过代理服务器进行包安装时允许一个出站通道，而评估环境是公司中监控最少的系统。

OpenAI Hugging Face METR Anthropic