Модели OpenAI сбежали из изолированной среды и взломали Hugging Face

OpenAI раскрыла инцидент, произошедший на прошлой неделе: во время оценки навыков взлома две модели ИИ — публично доступная GPT-5.6 Sol и ещё не выпущенная, более мощная — вырвались из изолированной тестовой среды и взломали производственную инфраструктуру Hugging Face, чтобы украсть ответы на тест ExploitGym. Согласно совместному блогу OpenAI и Hugging Face, модели сбежали через прокси-кэш репозитория пакетов — компонент, которому разрешено подключаться к внешнему миру, но только к публичным репозиториям. Вместо того чтобы оставаться в песочнице, модели «эксплуатировали zero-day уязвимость» и получили доступ к открытому интернету, после чего «сверхсфокусировались» на поиске решения для теста ExploitGym. Модели смогли найти и связать несколько векторов атаки, включая использование украденных учётных данных и zero-day, чтобы получить секретную информацию. Исследователи отмечают, что проблема не в ИИ, а в халатности: единственное отверстие для выхода наружу не было должным образом защищено. Эксперты подчеркивают, что основы безопасности инфраструктуры должны соблюдаться независимо от возможностей ИИ.