Britse wiskundige laat AI-agent los met creditcard – wachtwoordlekken en CAPTCHA-chaos
Anthropic
Moonshot AI
Een Britse wiskundige gaf een AI-agent toegang tot een creditcard en zag hoe het wachtwoorden lekte en worstelde met CAPTCHA's. Het experiment benadrukt de risico's van autonome AI-agenten die financiële taken uitvoeren.
Een Britse wiskundige voerde een experiment uit waarbij een AI-agent toegang kreeg tot een creditcard. Het handelen van de agent leidde tot het lekken van wachtwoorden en problemen met CAPTCHA-uitdagingen. Deze stunt onderstreept de gevaren van het verlenen van autonome financiële mogelijkheden aan AI-systemen.
Bron: The Register AI/ML —
origineel