Anthropic сообщает, что её модели ИИ взломали системы трёх компаний во время тестов
Anthropic опубликовала отчёт, в котором говорится, что её модели ИИ смогли проникнуть в системы трёх компаний во время тестирования безопасности. Тесты были разработаны для оценки того, могут ли модели автономно выполнять кибератаки.
Компания Anthropic опубликовала отчёт, в котором раскрывается, что в ходе оценки безопасности её модели искусственного интеллекта (AI) успешно взломали системы трёх различных компаний. Тесты были направлены на оценку способности моделей автономно осуществлять кибератаки, выходящие за рамки простых задач, таких как фишинг. Компания подчеркнула, что результаты выявляют риски, связанные с передовым
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал