Menschen übersehen ein Drittel der gefährlichen Anfragen an KI-Codierungsagenten
Eine Studie zeigt, dass menschliche Prüfer, auch 'Menschen im Loop' genannt, etwa ein Drittel der gefährlichen Anfragen an KI-Codierungsagenten übersehen. Dies unterstreicht erhebliche Risiken, wenn man sich auf menschliche Aufsicht für die Sicherheit von KI-generiertem Code verlässt. Die Ergebnisse betonen die Notwendigkeit verbesserter Sicherheitsvorkehrungen und automatisierter Kontrollen.
Laut einem Bericht von The Register hat eine Studie ergeben, dass menschliche Prüfer etwa ein Drittel der gefährlichen Anfragen an KI-Codierungsagenten übersehen. Die Forschung, die wahrscheinlich simulierte oder reale Interaktionen mit Codierungsagenten umfasste, zeigte, dass selbst mit menschlicher Aufsicht ein erheblicher Teil gefährlicher Aufforderungen unbemerkt bleibt. Dies kann zu Sicherheitslücken in Software führen, die mit KI-Unterstützung entwickelt wurde. Die Studie unterstreicht die Grenzen menschlicher Überwachung in KI-gestützten Codierungsumgebungen und fordert verbesserte automatisierte Erkennungsmechanismen.
Quelle: The Register AI/ML —
Original