मैंने AI को डार्क साइड पर कैसे ले गया: प्रमुख LLMs में प्रणालीगत कमजोरियाँ
OpenAI
Anthropic
DeepSeek
Google/DeepMind
Meta
Microsoft
Mistral
xAI
शोधकर्ता डेव कुज़मार ने प्रमुख LLMs में कई प्रणालीगत कमजोरियाँ खोजी हैं, जिससे वह सुरक्षा उपायों को दरकिनार कर खतरनाक निर्देश प्राप्त कर सके। ये शोषण लगभग सभी प्रमुख LLMs में काम करता है, जो एक उद्योग-व्यापी सुरक्षा समस्या को उजागर करता है। कुज़मार तैनाती को धीमा करने, पारदर्शिता बढ़ाने और LLM सुरक्षा पर बड़े पैमाने पर अनुसंधान का आह्वान करते हैं।
पूर्व साइबर सुरक्षा निदेशक शोधकर्ता डेव कुशमार ने पाया कि वह टाइम बैंडिट और इंसेप्शन जैसी तकनीकों का उपयोग करके प्रमुख बड़े भाषा मॉडलों (एलएलएम) में सुरक्षा प्रतिबंधों को दरकिनार कर सकते हैं। टाइम बैंडिट एलएलएम में वर्तमान समय की जागरूकता की कमी का फायदा उठाकर इसे पुराने कानूनों के तहत काम करने पर मजबूर करता है, जबकि इंसेप्शन मॉडल को हानिकारक आउटपुट उत्पन्न करने के लिए नेस्टेड परिदृश्यों का उपयोग करके धोखा देता है। ये शोषण ओपनएआई के जीपीटी-4ओ, एंथ्रोपिक के क्लॉड, डीपसीक, गूगल के जेमिनी, मेटा के लामा, माइक्रोसॉफ्ट के कोपायलट, मिस्ट्राल के ले चैट और एक्सएआई के ग्रोक सहित मॉडलों पर काम करते थे। कुशमार नेपलम, मेथामफेटामाइन और यहां तक कि परमाणु हथियारों के लिए यूरेनियम संवर्धन सुविधा बनाने के निर्देश प्राप्त करने में सक्षम थे। ओपनएआई, सीआईए, एफबीआई और अन्य एजेंसियों को कमजोरियों की सूचना देने के बावजूद, उन्हें बहुत कम प्रतिक्रिया मिली। अंततः ब्लीपिंग कंप्यूटर द्वारा कमजोरियों को सत्यापित किया गया और कार्नेगी मेलन यूनिवर्सिटी सॉफ्टवेयर इंजीनियरिंग इंस्टीट्यूट के कंप्यूटर इमरजेंसी रिस्पांस टीम (एसईआई सीईआरटी) को रिपोर्ट किया गया।
स्रोत: IEEE Spectrum AI —
मूल