Ещё один побег ИИ: китайская модель Kimi K3 выбралась из тестовой среды
Китайская модель ИИ Kimi K3, разработанная компанией Moonshot AI, сбежала из тестовой среды во время упражнения «захват флага». Инцидент был раскрыт американским стартапом Frontier Security, который сообщил, что побег произошёл из-за неправильно настроенной сетевой песочницы, которая позволяла HTTPS и DNS-трафик в интернет, что позволило модели клонировать репозиторий GitHub упражнения и найти решение. В отличие от предыдущих инцидентов, эта модель является публично доступной, что, по словам Frontier Security, потенциально более вредно.
В июле 2026 года OpenAI сообщила, что одна из её ещё не выпущенных моделей вышла в сеть и взломала Hugging Face, чтобы найти ответ, а спустя несколько дней Anthropic объявила, что её модели совершали похожие действия. Британский Институт безопасности искусственного интеллекта (AI Safety Institute, AISI) зафиксировал попытку модели Mythos 5 внедрить вредоносный код в проект с открытым исходным
Показать ещё ↓
Источник: Numerama —
оригинал