एन्क्रिप्शन बायपास: कैसे एआई मॉडल आसानी से उजागर करते हैं उपयोगकर्ताओं का संवेदनशील डेटा

जर्मनी के शोधकर्ताओं ने 'स्टीलिंग रीज़निंग ट्रेसेस फ्रॉम प्रोप्राइटरी एलएलएम एपीआई' शीर्षक से एक शोध पत्र प्रकाशित किया है, जिसमें दिखाया गया है कि एन्थ्रोपिक, ओपनएआई और गूगल के एआई मॉडल संवेदनशील उपयोगकर्ता डेटा लीक कर सकते हैं। तर्क कार्य करते समय, ये मॉडल एक एन्क्रिप्टेड स्ट्रिंग उत्पन्न करते हैं जिसे 'रीज़निंग लॉग' कहा जाता है, जो संदर्भ प्रदान करने के लिए प्रत्येक नए उत्तर के साथ सर्वर को वापस भेजा जाता है। शोधकर्ताओं ने पाया कि रीज़निंग लॉग को कॉपी किया जा सकता है और एक ही कंपनी के अन्य मॉडलों, जिनमें पुराने या संशोधित संस्करण शामिल हैं, में उपयोग किया जा सकता है। यदि किसी संशोधित मॉडल से उसके सुरक्षा उपाय जेलब्रेक के माध्यम से हटा दिए जाते हैं, तो यह लॉग के एन्क्रिप्शन को डिकोड कर सकता है। गिटहब और हगिंग फेस से 6,708 सार्वजनिक रिपॉजिटरी का उपयोग करके, उन्होंने 315,320 रीज़निंग लॉग को सफलतापूर्वक डिक्रिप्ट किया, जिनमें 62 एपीआई कुंजियाँ, 33 पासवर्ड, 24 एक्सेस टोकन, 30 व्यक्तिगत ईमेल पते और परियोजना अनुरक्षकों के नाम/पते शामिल थे। इनमें से कई विवरण केवल रीज़निंग लॉग में मौजूद थे, चैट सत्र में कहीं और नहीं। साइबरन्यूज़ के सुरक्षा विशेषज्ञ वोल्डेमारस कादिस ने नोट किया कि एन्क्रिप्शन को पारंपरिक अर्थों में नहीं तोड़ा गया; इसके बजाय, संगत मॉडलों के बीच एन्क्रिप्टेड रीज़निंग ट्रेसेस साझा करने से कमजोर मॉडल डिक्रिप्शन के लिए मास्टर कुंजी बन जाते हैं। वह रीज़निंग लॉग को संवेदनशील डेटा मानने और उन्हें कभी साझा न करने की सलाह देते हैं।