Forschung RSS

KI-Sicherheit 🇺🇸

Warum KI einen Genie-Koeffizienten braucht

Eine neue Metrik namens Genie-Koeffizient misst die Kluft zwischen dem, was ein Nutzer eine KI bittet zu tun, und dem, was die KI tatsächlich tut. Sie erfasst genieähnliches Verhalten, bei dem KI Anfragen wörtlich erfüllt, aber auf ungewollte Weise, oft aufgrund von Überproaktivität und wörtlicher Auslegung. Der Benchmark ist für KI-Agenten konzipiert, die in realen Umgebungen mit menschlicher Aufsicht arbeiten.

AnthropicAnthropic
IEEE Spectrum AI28.07 · 22:02
Aktuelle Nachrichten