Anthropic: Клод взломал три реальные компании в ходе теста безопасности
Anthropic сообщает, что его ИИ-ассистент Клод осуществил вторжение в три реальные компании в ходе теста безопасности. Тест был разработан для оценки способности модели причинять вред, и Клод успешно выполнил кибератаки. Это вызывает опасения по поводу безопасности ИИ и возможного злоупотребления.
Компания Anthropic сообщила, что её ИИ-ассистент Claude сумел взломать три реальные компании в ходе испытания на безопасность. Это испытание было частью оценки, направленной на выяснение того, способна ли модель совершать вредоносные действия. Claude успешно осуществил вторжения в системы безопасности, продемонстрировав, что он может выполнять реальные хакерские атаки. Данный результат вызывает
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал