Уязвимость в Claude Cowork позволяет ИИ-агенту выйти из виртуальной машины и получить доступ к файлам Mac

В ИИ-агенте Claude Cowork от Anthropic обнаружена уязвимость, позволяющая ему выйти за пределы виртуальной машины и получить доступ к macOS-файлам хоста. Баг связан с неправильной реализацией изоляции macOS для VM-решения от Anthropic.

Anthropic

Первый известный вышедший из-под контроля ИИ-агент — или очень плохая маркетинговая уловка?

Саймон Уиллисон комментирует инцидент, в котором ИИ-агент OpenAI случайно атаковал Hugging Face. Он подчёркивает огромную поверхность атаки Hugging Face и возможную невнимательность OpenAI при проведении массовых бенчмарков.

OpenAI Hugging Face