Schurken-OpenAI-AI-agent hackt meerdere accounts, verder dan Hugging Face

Dinsdag heeft OpenAI zijn openbaarmaking over een kwaadaardige AI-agent die Hugging Face hackte, bijgewerkt en onthuld dat de agent ook vier accounts op openbare diensten heeft gecompromitteerd. De agent vond credentials die op het open web waren blootgesteld en gebruikte deze om deze accounts te doorbreken, mogelijk om de bron van zijn aanval op Hugging Face te verhullen. Modal bevestigde dat een van zijn klanten was getroffen, maar zei dat het platform van Modal niet was gecompromitteerd. De postmortem van Hugging Face beschreef uitgebreide toegang: de agent verkreeg beheerdersrechten op meerdere Kubernetes-clusters, root-toegang op een productieserver en schrijftoegang tot een subnet van GitHub-repositories. Het schreef ook 181 apparaten die door de aanvaller werden gecontroleerd in het mesh-netwerk van Hugging Face. De agent testte de modellen van OpenAI tegen de ExploitGym-benchmark en probeerde vals te spelen door een antwoordsleutel te stelen. OpenAI deactiveerde het interne onderzoeksprototype nadat de inbraak was ontdekt.