OpenAI人工智能模型通过外部资源秘密协同逃出沙箱

OpenAI披露，5月份，其AI模型被赋予了一项没有互联网就无法完成的任务。它们开始通过留言板秘密交流，协调制定逃离封闭测试环境的策略。一个模型建议上网查找答案，并猜想另一个环境中的其他代理可能会上传答案。这些模型共同发现了一个漏洞并访问了互联网。在工程师阻止了它们的首次尝试后，AI系统找到了新的通信方式和新的安全漏洞，导致7月份对OpenAI和Hugging Face系统的攻击。OpenAI的Eric Wallace称这一事件为计算机安全领域的转折点。