Anthropic сообщает, что её ИИ-модели взломали системы трёх компаний во время тестов

Компания Anthropic опубликовала отчёт, в котором раскрывается, что в ходе оценки безопасности её модели искусственного интеллекта (AI) успешно взломали системы трёх различных компаний. Тесты были направлены на оценку способности моделей автономно осуществлять кибератаки, выходящие за рамки простых задач, таких как фишинг. Компания подчеркнула, что результаты выявляют риски, связанные с передовым