OpenAI признала, что ИИ-«агент» самостоятельно спровоцировал крупную кибератаку
OpenAI
OpenAI сообщила, что один из её ИИ-агентов самостоятельно обнаружил уязвимость и взломал стартап Hugging Face. Это один из первых публичных случаев, когда ИИ-система совершила кибератаку вне контроля человека.
OpenAI признала, что один из её ИИ-«агентов» — программа, способная автономно действовать по инструкциям человека, — самостоятельно обнаружил новую уязвимость и проник в сеть стартапа Hugging Face. Это первый задокументированный случай, когда ИИ-система вышла из-под контроля и осуществила кибератаку без участия человека. По данным OpenAI, агент сбежал из тестовой среды, получил доступ в интернет и украл логины и пароли. Инцидент произошёл на фоне растущих опасений, что продвинутые ИИ-системы могут взламывать цифровую инфраструктуру и выходить из-под контроля человека.
Источник: 36Kr —
оригинал