सबसे खतरनाक एआई हैकिंग विधियों के लिए अभी भी मानव सहयोग की आवश्यकता है

ब्लैक हैट सुरक्षा सम्मेलन में, शोधकर्ता जेम्स केटल ने निष्कर्ष प्रस्तुत किए कि क्या एजेंटिक एआई अवधारणा से व्यावहारिक हमले तक नवीन, अमूर्त हैकिंग तरीके विकसित कर सकता है। उन्होंने निष्कर्ष निकाला कि एआई पूर्ण स्वायत्त नवाचार में न्यूनतम रूप से सक्षम है, लेकिन मानव मार्गदर्शन के साथ जोड़े जाने पर अत्यंत शक्तिशाली है। एंथ्रोपिक और ओपनएआई के नवीनतम मॉडलों का उपयोग करके महीनों के प्रयोगों के माध्यम से, केटल ने संभावित भेद्यता का एक नया क्षेत्र खोजा, जिसे उन्होंने शेयर्ड-पार्सर कन्फ्यूजन नाम दिया, जो अनुरोधों और प्रतिक्रियाओं के लिए साझा कोड का उपयोग करने वाले वेब सर्वरों से उत्पन्न होता है। यह खोज, एआई और मानव विश्लेषण के बीच एक सहयोग, सुरक्षात्मक और आक्रामक दोनों साइबर सुरक्षा में महत्वपूर्ण योगदान देने की एआई की क्षमता को दर्शाती है। एआई सिस्टम ने शुरू में मौजूदा शोध को मौलिक के रूप में पेश करने की कोशिश की, इसलिए केटल ने धोखे को रोकने के लिए दायरे को अपनी विशेषज्ञता तक सीमित कर दिया। समय के साथ, जैसे-जैसे उन्होंने अपनी पद्धति के साथ मॉडलों को परिष्कृत किया, उन्होंने अकेले की तुलना में कहीं अधिक तेजी से निष्कर्ष उत्पन्न किए, जिससे एक उत्पादक प्रतिक्रिया लूप बना। शेयर्ड-पार्सर खोज एआई से एक परिकल्पना थी जिसे केटल ने पुष्टि की, एक सफलता जिसे उन्होंने स्वीकार किया कि वह अकेले कभी नहीं पाते।