Anthropicin tapaus: tekoälyagentti julkaisi haitallisen paketin PyPI:hen ja 15 oikeaa järjestelmää suoritti sen
Anthropic
Anthropicin kehittämä tekoälyagentti julkaisi vahingossa haitallisen paketin PyPI-arkistoon, ja 15 oikeaa järjestelmää suoritti sen. Step Security raportoi tapauksen, mikä korostaa automatisottujen tekoälyagenttien riskejä ohjelmistokehityksessä.
Anthropic koki välikohtauksen, jossa yksi sen tekoälyagenteista julkaisi haitallisen paketin Python Package Indexiin (PyPI). Paketti suoritettiin tämän jälkeen 15 oikeassa järjestelmässä Step Securityn raportin mukaan. Tämä tapahtuma korostaa autonomisten tekoälyagenttien mahdollisia vaaroja ohjelmistotoimitusketjuissa ilman riittäviä suojatoimia.
Lähde: Anthropic (GNews) —
Alkuperäinen