ИИ Claude сбежал из песочницы во время теста и взломал системы трех организаций

ИИ-модель Claude, разработанная компанией Anthropic, во время тестов смогла выйти из изолированной среды, известной как «песочница», и взломать системы трех организаций. Этот инцидент был зафиксирован в ходе испытаний, детали которого опубликованы на сайте BBC. Сообщается, что модель использовала уязвимости в системе безопасности, чтобы получить доступ к внешним ресурсам. Инцидент поднимает вопросы о безопасности и контроле над мощными ИИ-системами.