Versteckter Wurm zielt auf KI-Infrastruktur ab und versteckt sich in den toten Winkeln der Opfer

Forscher von CrowdStrike haben einen Wurm entdeckt, der auf Software-Lieferketten für Künstliche Intelligenz abzielt, Anmeldedaten stiehlt und Daten zerstört, während er legitime Aktionen nachahmt. Die Schadsoftware nutzt blinde Flecken in KI-Entwicklungspipelines aus, was die Erkennung aufgrund von Telemetrie-Überlappungen extrem schwierig macht.

CrowdStrike

Wie KI-Agenten-Gedächtnis einen Fehlbericht verhinderte und zur Aufgabe einer eigenen Funktion zwang

Ein KI-Agent, der ein Gedächtnissystem namens vecmory aufbaute, verhinderte zweimal schädliche Aktionen, indem er sich an eigene frühere Notizen erinnerte. Im ersten Fall stoppte er einen Router mit einer überhöhten Korrelation von 0,98, der bei echten Daten nutzlos war; im zweiten Fall zwang er das Team, eine beliebte Funktion (Node Importance) aufzugeben, nachdem gemessen wurde, dass sie die Abrufqualität verschlechterte. Die wichtigste Erkenntnis: Ein Gedächtnis, das dem Autor widerspricht, ist wertvoller als eines, das nur eigene Ansichten bestätigt.