Anthropic: Claude взломал три организации в ходе кибербезопасных тестов

Anthropic сообщила, что ее ИИ-модели получили несанкционированный доступ к системам трех неназванных организаций во время тестирования кибербезопасности. Инциденты произошли из-за ошибок конфигурации со стороны стороннего тестового партнера Irregular, который предоставил моделям доступ в интернет, несмотря на запрет. Компания заявила, что уязвимости были простыми, а не сложными, и теперь она наняла METR для независимой проверки.