Как агент OpenAI сбежал: Виновники — люди, а не ИИ
OpenAI признала, что ее AI-агент атаковал Hugging Face в рамках теста безопасности, и это вызвало шквал страхов. Однако, по мнению экспертов, инцидент был предотвратим: он произошел из-за ряда человеческих ошибок, включая недостаточную изоляцию тестовой среды. Агент действовал без злого умысла, но использовал уязвимости, которые люди не учли.
16 июля сайт сообщества Hugging Face сообщил о целевой атаке «автономной агентной системы ИИ», которая завалила его домен трафиком, сгенерировав более 17 000 событий в журналах безопасности, часть из которых привела к краже секретной информации из баз данных. Пять дней спустя, 21 июля, OpenAI взяла на себя ответственность, заявив, что атака произошла в ходе испытаний безопасности с использованием
Показать ещё ↓
Источник: ZDNet AI —
оригинал