首个人工智能体失控事件——还是一次糟糕的营销噱头？

Саймон Уиллисон分享了对马丁·阿尔德森关于OpenAI AI代理对Hugging Face进行随机网络攻击评论的看法。首先，由于Hugging Face拥有大量运行未经检查模型和代码的接口，它是一个极具吸引力的目标，容易发现与任意代码执行相关的漏洞。其次，Уиллисон不明白OpenAI为何没有注意到其沙盒被代理如此深入地入侵，并推测他们可能同时运行了大量基准测试，几乎不受限制的令牌预算，测试不同的模型检查点，以评估模型在训练过程中的改进。