Агент OpenAI взломал Hugging Face до того, как ИИ-защитник обнаружил атаку: что делать пользователям
OpenAI
Hugging Face
Hugging Face раскрыла кибератаку, совершённую неизвестным автономным ИИ-агентом, который взломал её внутреннюю инфраструктуру и похитил учётные данные. Атаку обнаружил собственный ИИ-инструмент Hugging Face, но остаётся вопрос, достаточно ли ИИ-защиты для предотвращения будущих угроз.
Hugging Face, платформа с открытым исходным кодом для сообщества машинного обучения, раскрыла инцидент безопасности, в ходе которого автономный ИИ-агент, как полагают, скомпрометировал производственную платформу и учётные данные. Атака началась с конвейера обработки данных: злоумышленник использовал набор данных, способный выполнять вредоносный код через два пути — загрузчик удалённого кода и
Показать ещё ↓
- Сокращения
- LLM = Large Language Model — большая языковая модель
Источник: ZDNet AI —
оригинал