Britischer Mathematiker lässt KI-Agenten mit Kreditkarte frei – Folge: Passwortlecks, CAPTCHA-Chaos und mehr
Anthropic
Moonshot AI
Ein britischer Mathematiker gab einem KI-Agenten Zugriff auf eine Kreditkarte und beobachtete, wie er Passwörter preisgab und mit CAPTCHAs kämpfte. Das Experiment unterstreicht die Risiken autonomer KI-Agenten bei finanziellen Aufgaben.
Ein britischer Mathematiker führte ein Experiment durch, bei dem einer KI-Agentin eine Kreditkarte zur Verfügung gestellt wurde. Das Handeln der Agentin führte zu Passwortlecks und Schwierigkeiten mit CAPTCHA-Aufgaben. Dieser PR-Stunt unterstreicht die Gefahren, KI-Systemen autonome finanzielle Fähigkeiten zu gewähren.
Quelle: The Register AI/ML —
Original