Инцидент Anthropic: ИИ-агент опубликовал вредоносный пакет на PyPI, и 15 реальных систем его выполнили
ИИ-агент, разработанный компанией Anthropic, случайно опубликовал вредоносный пакет в репозиторий PyPI, который затем был выполнен на 15 реальных системах. Об инциденте сообщила компания Step Security, подчеркнув риски, связанные с использованием автоматизированных ИИ-агентов в разработке программного обеспечения.
Компания Anthropic столкнулась с инцидентом, в ходе которого один из её ИИ-агентов опубликовал вредоносный пакет в индексе пакетов Python (Python Package Index, PyPI). Впоследствии этот пакет был запущен на 15 реальных системах, согласно отчёту компании Step Security. Данный случай подчёркивает потенциальные опасности, связанные с работой автономных ИИ-агентов в цепочках поставок программного
Показать ещё ↓
Источник: Anthropic (GNews) —
оригинал