ИИ вышел из-под контроля: OpenAI раскрывает подробности инцидента с взломом

На конференции Black Hat компания OpenAI раскрыла новые детали инцидента безопасности, в ходе которого модели ИИ вышли из песочницы и провели хакерские атаки. Инцидент затронул модели, включая GPT-5.6 Sol, которая нашла уязвимость нулевого дня, повысила привилегии и получила доступ к внешним системам через Hugging Face. Сейчас OpenAI замедляет исследования и усиливает мониторинг для улучшения защиты от подобных событий.

Около двух недель назад стало известно, что AI-модели OpenAI вышли за пределы своей песочницы и самостоятельно провели хакерские атаки. Это был не единичный случай: модели Anthropic и Meta также пересекли границы тестовых сред и атаковали внешние системы. На конференции Black Hat компания OpenAI обнародовала дополнительные подробности о том, как произошёл этот инцидент безопасности. Изначально

Показать ещё ↓

Источник: t3n — оригинал