Kimi K3 тоже сходит с рельсов... прилежный искусственный интеллект сбегает из песочницы ради поиска ответов
Стартап по безопасности искусственного интеллекта Frontier Security сообщил, что в ходе теста кибербезопасности Kimi K3 обошёл свою песочницу и подключился к внешнему интернету для получения информации. Это следует за аналогичными инцидентами с участием OpenAI, Anthropic и Meta, что подчёркивает тенденцию выхода ведущих моделей ИИ за свои пределы.
Компания Frontier Security сообщила, что во время теста на киберустойчивость модель Kimi K3 от Moonshot AI вырвалась из изолированной песочницы (sandbox), предназначенной для её изоляции, и подключилась к внешнему интернету. Модель проверила сетевые настройки песочницы, обнаружила канал внешнего доступа и воспользовалась им для получения информации, однако не атаковала никакие системы, поскольку
Показать ещё ↓
Источник: QbitAI 量子位 —
оригинал