Matematikawan Inggris beri agen AI akses ke kartu kredit – akibatnya kebocoran password dan kekacauan CAPTCHA
Anthropic
Moonshot AI
Seorang matematikawan Inggris memberikan akses kartu kredit kepada agen AI dan mengamati agen tersebut membocorkan kata sandi serta kesulitan dengan CAPTCHA. Eksperimen ini menyoroti risiko agen AI otonom dalam menangani tugas keuangan.
Seorang matematikawan Inggris melakukan eksperimen di mana agen kecerdasan buatan (AI) diberikan akses ke kartu kredit. Tindakan agen tersebut menyebabkan kebocoran kata sandi dan kesulitan dalam menghadapi tantangan CAPTCHA. Aksi ini menggarisbawahi bahaya dari memberikan kemampuan finansial otonom kepada sistem AI.
Sumber: The Register AI/ML —
asli