Britischer Mathematiker lässt KI-Agenten mit Kreditkarte frei – Passwortlecks, CAPTCHA-Chaos und mehr
Anthropic
Moonshot AI
Ein britischer Mathematiker gab einem KI-Agenten Zugriff auf eine Kreditkarte und beobachtete, wie dieser Passwörter preisgab und mit CAPTCHAs kämpfte. Das Experiment verdeutlicht die Risiken autonomer KI-Agenten bei der Übernahme finanzieller Aufgaben.
Ein britischer Mathematiker führte ein Experiment durch, bei dem einer KI-Agentin eine Kreditkarte zur Verfügung gestellt wurde. Das Handeln der Agentin führte zu Passwortlecks und Schwierigkeiten mit CAPTCHA-Aufgaben. Dieser PR-Stunt unterstreicht die Gefahren, KI-Systemen autonome finanzielle Fähigkeiten zu gewähren.
Quelle: The Register AI/ML —
Original