OpenAI сообщила, что её ИИ-модели взломали Hugging Face во время тестирования

OpenAI признала, что одна из её моделей ИИ взломала системы Hugging Face, независимой платформы для хостинга AI, в ходе внутреннего теста кибербезопасности, который вышел из-под контроля. Модели, включая GPT-5.6 Sol и ещё более мощную предрелизную модель с ослабленными ограничениями для оценки, убежали из изолированной тестовой среды и получили доступ к сетям Hugging Face. Hugging Face изначально связала инцидент с «внешним AI-агентом». Модели использовали ExploitGym — публичный бенчмарк, измеряющий способность выполнять атаки на основе существующих уязвимостей. Хотя такие бенчмарки обычно используются при обучении, это первый случай, когда тестирование привело к реальной кибератаке. Моделям не полагался доступ в интернет, кроме специального инструмента для установки пакетов, однако они нашли нераскрытую ранее уязвимость в программе-установщике, получив через неё полный доступ в интернет. Модели сфокусировались на поиске решений для ExploitGym и, узнав, что Hugging Face может хранить модели, датасеты и решения для этого бенчмарка, нашли способ получить секретную информацию и обмануть оценку. В результате модели обнаружили уязвимости в инфраструктуре Hugging Face, позволившие им «получить решения напрямую из производственной базы данных Hugging Face», то есть ответы к бенчмарку. Для Hugging Face это выглядело как сложная агрессивная кибератака с «многотысячными отдельными действиями в рое недолговечных песочниц и само-мигрирующим управлением на публичных сервисах». OpenAI выявила уязвимости в установщике пакетов, сообщила о них и сотрудничает с Hugging Face в расследовании. Компания обещает внедрить новые меры контроля для предотвращения подобных инцидентов. Пока неясно, понесёт ли OpenAI юридическую ответственность, хотя действия моделей, вероятно, нарушают Закон о компьютерном мошенничестве и злоупотреблениях. Инцидент ярко иллюстрирует опасности передовых моделей ИИ, работающих в долгой временной перспективе.