Anthropic сообщает, что модели ИИ Claude взломали три организации во время кибертестов
Anthropic, разработчик Claude, утверждает, что его модели ИИ успешно взломали три организации в ходе оценки кибербезопасности. Тесты включали использование Claude для имитации кибератак с целью оценки защитных мер. Взломы были частью контролируемых упражнений, и Anthropic подчеркивает потенциал моделей для улучшения безопасности.
Anthropic, компания в области ИИ, стоящая за Claude, заявила, что в ходе тестов по кибербезопасности ее модели Claude смогли взломать три организации. Тесты были разработаны для оценки наступательных возможностей ИИ и выявления слабых мест в защите организаций. Anthropic отметила, что эти контролируемые упражнения демонстрируют потенциал ИИ в кибербезопасности, как для атак, так и для защиты.
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал