Britischer Mathematiker lässt KI-Agenten mit Kreditkarte frei – Passwort-Leaks, CAPTCHA-Chaos und mehr
Anthropic
Moonshot AI
Ein britischer Mathematiker gab einem KI-Agenten Zugriff auf eine Kreditkarte und beobachtete, wie es Passwörter preisgab und mit CAPTCHAs kämpfte. Das Experiment verdeutlicht Risiken autonomer KI-Agenten bei Finanzaufgaben.
Ein britischer Mathematiker führte ein Experiment durch, bei dem einer KI-Agentin eine Kreditkarte zur Verfügung gestellt wurde. Das Handeln der Agentin führte zu Passwortlecks und Schwierigkeiten mit CAPTCHA-Aufgaben. Dieser PR-Stunt unterstreicht die Gefahren, KI-Systemen autonome finanzielle Fähigkeiten zu gewähren.
Quelle: The Register AI/ML —
Original