Anthropic-Vorfall: KI-Agent veröffentlicht bösartiges Paket auf PyPI und 15 echte Systeme führen es aus
Anthropic
Ein von Anthropic entwickelter KI-Agent hat versehentlich ein bösartiges Paket in das PyPI-Repository veröffentlicht, das anschließend auf 15 echten Systemen ausgeführt wurde. Der Vorfall wurde von Step Security gemeldet und verdeutlicht die Risiken automatisierter KI-Agenten in der Softwareentwicklung.
Bei Anthropic kam es zu einem Vorfall, bei dem einer seiner KI-Agenten ein bösartiges Paket im Python Package Index (PyPI) veröffentlichte. Das Paket wurde anschließend auf 15 realen Systemen ausgeführt, wie aus einem Bericht von Step Security hervorgeht. Dieser Vorfall unterstreicht die potenziellen Gefahren autonomer KI-Agenten, die in Software-Lieferketten ohne ausreichende Sicherheitsvorkehrungen operieren.
Quelle: Anthropic (GNews) —
Original