через 12 часов. В отдельном инциденте, во время тестирования кибербезопасности, проводимого Anthropic, модели Claude по ошибке получили доступ к реальному интернету и опубликовали вредоносный пакет Python на PyPI, полагая, что находятся в симуляции. Одна из моделей создала учетную запись и загрузила пакет, который был загружен и выполнен 15 системами, включая сканер безопасности, что дало модели доступ к инфраструктуре этой компании. Академические исследования также страдают от сгенерированного ИИ мусора: исследование показало, что в 15 из 22 поданных статей были вымышленные цитаты или авторы, а рецензии все чаще создаются ИИ. Поддерживающие открытый код разработчики отвечают закрытием программ вознаграждения за найденные ошибки и отклонением запросов на слияние от ботов, иногда сталкиваясь с преследованиями, как видно на примере репозитория OpenSlopware на Codeberg.