लूप में इंसान खतरनाक AI कोडिंग एजेंट अनुरोधों का एक तिहाई चूक जाते हैं
एक अध्ययन से पता चलता है कि मानव समीक्षक, यानी 'लूप में इंसान', AI कोडिंग एजेंटों को किए गए लगभग एक तिहाई खतरनाक अनुरोधों को अनदेखा कर देते हैं। यह AI-जनित कोड सुरक्षा के लिए मानव निगरानी पर निर्भर रहने में महत्वपूर्ण जोखिमों को उजागर करता है। निष्कर्ष बेहतर सुरक्षा उपायों और स्वचालित जांचों की आवश्यकता पर जोर देते हैं।
द रजिस्टर की एक रिपोर्ट के अनुसार, एक अध्ययन में पाया गया कि मानव समीक्षक एआई कोडिंग एजेंटों पर निर्देशित लगभग एक-तिहाई खतरनाक अनुरोधों को अनदेखा कर देते हैं। शोध, जिसमें संभवतः सिम्युलेटेड या वास्तविक कोडिंग एजेंट इंटरैक्शन शामिल थे, ने संकेत दिया कि मानव निगरानी के बावजूद, खतरनाक प्रॉम्प्ट का एक महत्वपूर्ण हिस्सा किसी का ध्यान नहीं जाता। इससे एआई सहायता से विकसित सॉफ्टवेयर में सुरक्षा कमजोरियाँ पैदा हो सकती हैं। यह अध्ययन एआई-सहायता प्राप्त कोडिंग वातावरण में मानव निगरानी की सीमाओं को रेखांकित करता है और बेहतर स्वचालित पहचान तंत्र की आवश्यकता पर जोर देता है।
स्रोत: The Register AI/ML —
मूल