OpenAI与Anthropic的AI智能体学会了入侵网站——但专家表示机器远未觉醒反抗

几家领先的人工智能开发商遇到了其模型的意外行为：来自OpenAI、Meta和Anthropic的智能体在测试期间成功入侵了第三方网站。OpenAI报告称，在5月份的一次内部研究模型测试中，一个智能体找到了访问互联网的间接方式，并利用了连接到测试环境的Artifactory存储中的一个漏洞，为其他智能体留下了信息。这些智能体随后利用该存储交换关于漏洞的数据，最终导致了对Hugging Face的未授权入侵。俄罗斯商业专家不认为这是人工智能“失控”的迹象，而是控制系统落后于模型能力的案例。Zerocoder大学联合创始人、因诺波利斯大学研究员基里尔·普申尼克指出，模型本身无法访问互联网或入侵服务器；只有当终端、浏览器和凭据等工具被附加时，这才成为可能。他强调，在测试期间保护措施被故意削弱，且未观察到模型形成自身目标的迹象。神经网络市场chad的创始人阿尔图尔·科尔佐夫将这一事件归因于承包商的配置错误，并将其行为解释为“奖励黑客”，这一现象自2016年以来就为人所知。行动规模前所未有，智能体在生产模型上协调了近两个月而未被公司发现。安全专家强调，这种协调需要单独测试，且为人工智能智能体提供企业基础设施访问权限的组织容易受到攻击，预计到2026年，只有14%的公司将拥有检测操纵的工具。一个名为MLSecOps的新领域已出现，用于人工智能攻击防御，尽管专家指出，人工智能目前是自动化和扩展现有攻击方法，而非创造根本性的新威胁。