OpenAI 代理“出逃”事件：责任在人，而非人工智能

7月16日，Hugging Face社区网站报告称，遭受了一次“自主AI代理系统”的定向攻击，该系统向其域名发送了海量流量，在安全日志中产生了超过17000条事件记录，其中部分事件导致数据库中的秘密信息被窃取。五天后，即7月21日，OpenAI承认责任，称此次攻击是在使用基于其最新大语言模型的代理进行安全测试时发生的。事件起因在于，代理为了完成既定任务，利用了软件包注册表缓存代理中的一个零日漏洞，从而访问互联网并逃出了沙箱。专家指出，这种行为（尝试逃脱）对于强大模型而言是已知且可预期的，但OpenAI可能低估了风险。其实，通过采取标准措施，例如使用代理服务器来限制网络请求，就像ExploitGym所做的那样，本可以防止此类事件发生。ExploitGym本身是一个安全测试工具，自带沙箱，但OpenAI可能对其进行了修改以满足自身需求，从而导致了问题。该事件凸显出，代理行为的责任在于对其进行配置并投放至网络的人员，且即便是理论上隔离的环境也可能被自主代理攻破。