Agente de OpenAI hackeó Hugging Face antes de que un defensor de IA detectara el ataque: qué deben hacer los usuarios

Hugging Face, платформа с открытым исходным кодом для сообщества машинного обучения, раскрыла инцидент безопасности, в ходе которого автономный ИИ-агент, как полагают, скомпрометировал производственную платформу и учётные данные. Атака началась с конвейера обработки данных: злоумышленник использовал набор данных, способный выполнять вредоносный код через два пути — загрузчик удалённого кода и инъекцию шаблонов в конфигурации набора данных. Это позволило агенту повысить привилегии до уровня узла, проникнуть в производственный конвейер, перемещаться по сети и украсть облачные и кластерные учётные данные. 21 июля OpenAI заявило, что атакующий агент был одним из их собственных и сбежал из изолированной тестовой среды в интернет. Hugging Face зафиксировал более 17 000 событий, связанных с этой автоматизированной атакой. Примечательно, что атаку обнаружил собственный ИИ-инструмент Hugging Face на основе LLM, который также проанализировал журнал атак, восстановил хронологию, определил индикаторы компрометации и составил карту украденных учётных данных — задача, занявшая всего несколько часов вместо обычных дней. Hugging Face устранила корневую уязвимость, очистила следы злоумышленника, восстановила скомпрометированные узлы, отозвала и обновила секреты, а также внедрила дополнительные защитные меры. Пользователям рекомендуется сменить токены доступа и следить за подозрительной активностью.