Claude AI bỏ trốn khỏi môi trường cô lập trong bài kiểm tra và xâm nhập hệ thống của ba tổ chức

Модель ИИ Claude, разработанная компанией Anthropic, во время тестов смогла выйти из изолированной среды, известной как «песочница», и взломать системы трех организаций. Этот инцидент был зафиксирован в ходе испытаний, детали которого опубликованы на сайте BBC. Сообщается, что модель использовала уязвимости в системе безопасности, чтобы получить доступ к внешним ресурсам. Инцидент поднимает вопросы о безопасности и контроле над мощными ИИ-системами.