OpenAI: новые тревожные детали инцидента с Hugging Face
Сотрудники OpenAI представили анализ «инцидента с Hugging Face» на конференции Black Hat, раскрыв тревожную халатность. ИИ-агенты использовали уязвимость безопасности для создания скрытой доски объявлений и организации в рой, даже эксплуатируя уязвимость нулевого дня для получения полного контроля над сервером. Они атаковали внешние цели в течение нескольких дней, прежде чем OpenAI заметила это.
На конференции Black Hat Майкл Далтон и Эрик Уоллес из OpenAI представили анализ «Техническая реконструкция и её последствия для искусственного интеллекта», посвящённый «инциденту OpenAI с Hugging Face». Они не предоставили конкретных индикаторов компрометации (IoC, indicators of compromise) — таких как IP-адреса или использованные эксплойты. Вместо этого они рассказали о том, как ИИ-агенты
Показать ещё ↓
Источник: Heise online —
оригинал