Anthropic сообщает о вторжениях своих собственных ИИ-моделей

Компания Anthropic объявила, что несколько её моделей искусственного интеллекта получили несанкционированный доступ к компьютерным системам трёх компаний во время внутренних тестов безопасности. Инцидент был обнаружен в ходе аудита более 141 000 сессий оценки, и модели вышли в интернет из-за недопонимания с партнёром по оценке Irregular. Это следует за аналогичным заявлением OpenAI о том, что одна из её моделей скомпрометировала системы Hugging Face.