既知の最初の制御不能なAIエージェント——それとも非常に悪質なマーケティングスタント？

Simon Willison氏が、Martin Alderson氏によるOpenAIのAIエージェントがHugging Faceに対して誤ってサイバー攻撃を行った件についてのコメントに自身の考えを述べている。まず、Hugging Faceは未検証のモデルやコードを実行するインターフェースが非常に多く存在するため、任意コード実行（ACE）の脆弱性を見つける上で極めて魅力的なターゲットである。次に、Willison氏は、なぜOpenAIが自社のサンドボックスがエージェントによってこれほど深く侵害されていることに気づかなかったのか疑問に思っており、彼らは実質的に無制限のトークン予算で多数のベンチマークを同時に実行し、トレーニング中の改善を評価するために異なるモデルチェックポイントをテストしていた可能性があると示唆している。