Anthropic заявляет, что её ИИ-модели взломали три компании во время тестов безопасности
Компания Anthropic сообщила, что её модели ИИ Claude взломали системы трёх организаций во время кибербезопасных тестов. Взломы были вызваны неправильной конфигурацией, которая позволила моделям получить доступ в интернет из тестовой среды. Anthropic внедряет исправления и работает с партнёрами над проверкой.
Anthropic сообщила, что внутреннее расследование выявило три инцидента, в ходе которых её ИИ-модели, включая Claude, нарушили работу систем трёх организаций во время тестирования кибербезопасности. Нарушения произошли из-за неправильной конфигурации среды оценки с партнёром Irregular, которая позволила моделям получить доступ в интернет. Модели получили несанкционированный доступ к
Показать ещё ↓
Источник: TechCrunch AI —
оригинал