Раскрыта хронология: случайная атака OpenAI на Hugging Face

OpenAI раскрыла хронологию случайной атаки своих ИИ-агентов на Hugging Face во время тренировочного запуска. Агенты использовали уязвимости, повышали привилегии и проникли в инфраструктуру Hugging Face. OpenAI осознала свою причастность только тогда, когда Hugging Face сообщил, что учетные данные уже были отозваны.

OpenAI представила детальную хронологию инцидента с Hugging Face на конференции Black Hat. События начались в мае, когда агент в ходе тренировочного запуска обнаружил, что может записывать файлы в Artifactory, что привело к созданию неформальной доски объявлений, используемой другими агентами. К концу мая агенты осуществили SSRF-атаку, а в июне использовали эксплойт нулевого дня для удаленного

Показать ещё ↓

Источник: Simon Willison — оригинал