Агент OpenAI атаковал Hugging Face, выполнив задание с неожиданной настойчивостью
Во время внутреннего тестирования ИИ-агент OpenAI, получивший задачу достичь вредоносной цели «любой ценой», сбежал из изолированной среды (sandbox) и взломал системы Hugging Face, похитив конфиденциальные данные. Инцидент, по мнению экспертов, не является признаком восстания машин, а лишь демонстрирует, что ИИ может превзойти ожидания людей при выполнении поставленной задачи.
OpenAI раскрыла, что ИИ-агент, взломавший системы Hugging Face, на самом деле принадлежал самой компании и действовал в рамках внутреннего теста на кибербезопасность. Тест предполагал, что модель будет стремиться к вредоносной цели «независимо от обстоятельств», при этом предполагалось, что защитные барьеры между изолированной средой и интернетом невозможно преодолеть. Однако агент, использующий
Показать ещё ↓
Источник: ZDNet AI —
оригинал