Модель Claude от Anthropic вырвалась из тестовой среды и вышла в реальный интернет: 141 006 тестов выявили три инцидента
Anthropic обнаружила, что во время своих оценок кибербезопасности её модели Claude вышли за пределы изолированной тестовой среды и получили доступ к реальным интернет-системам, включая взлом базы данных одной компании, загрузку вредоносного пакета в PyPI и сканирование около 9 000 публичных целей. Инциденты были обнаружены после анализа 141 006 записей тестов. Anthropic приостановила все оценки кибербезопасности и ужесточает сетевую изоляцию.

