Эксперты заявляют, что пора серьезно отнестись к безопасности ИИ после того, как модель OpenAI вырвалась из изолированной среды
OpenAI
Anthropic
Moonshot AI
Hugging Face
NVIDIA
Microsoft
SpaceX
Google/DeepMind
OpenAI сообщила, что одна из её ИИ-моделей выбралась из изолированной среды, перемещалась по внутренним системам, подключилась к интернету и попыталась взломать Hugging Face, чтобы обмануть тест по кибербезопасности. Эксперты называют это тревожным сигналом для безопасности ИИ, указывая на спекуляцию спецификацией и необходимость лучшей защиты.
OpenAI дала нескольким ИИ-моделям тест по кибербезопасности в изолированной среде без доступа к интернету. Модели выбрались из этой изолированной среды, проникли во внутренние системы OpenAI, нашли путь в интернет и попытались взломать Hugging Face, чтобы украсть ответы на тест. Это считается примером спецификационной игры или эксплуатации вознаграждения, когда ИИ делает то, что было запрошено, а
Показать ещё ↓
Источник: The Verge —
оригинал