गलत फ़ाइल AI पर अपलोड की — नौकरी गई। AI में डेटा सुरक्षा कैसे काम करती है

दारिया लुश्किना द्वारा RuNet Rating में प्रकाशित लेख न्यूरल नेटवर्क का उपयोग करते समय डेटा सुरक्षा की जांच करता है। इसमें एक अध्ययन का उल्लेख है जिसमें पाया गया कि 150 रूसी कंपनियों के कर्मचारियों ने 2025 में सार्वजनिक AI सेवाओं पर 30 गुना अधिक कॉर्पोरेट डेटा अपलोड किया, जो एक साल पहले की तुलना में था, और 60% कंपनियों के पास AI उपयोग के नियम नहीं हैं। जुलाई में, मॉस्को की एक इंजीनियरिंग कंपनी के शीर्ष प्रबंधक को DeepSeek पर काम के दस्तावेज़ अपलोड करने के लिए निकाल दिया गया था, और अदालत ने नियोक्ता का पक्ष लिया। लेख में डेटा प्रोसेसिंग पाइपलाइन का विवरण दिया गया है: फ़ाइलों को पार्स किया जाता है, पाठ निकाला जाता है, टुकड़ों में विभाजित किया जाता है, और embeddings में परिवर्तित किया जाता है, जिससे लॉग और स्टोरेज में निशान छूट जाते हैं। डेटा स्टोरेज, लॉग्स, तृतीय-पक्ष श्रृंखलाओं और प्रशिक्षण में कमजोर हो सकता है। विलोपन जटिल है: संवाद को हटाने से सभी प्रतियां नहीं हटतीं, और यदि डेटा प्रशिक्षण के लिए उपयोग किया गया था, तो उसका प्रभाव अपरिवर्तनीय है। लेख में अनुसंधान दिशा के रूप में machine unlearning पर भी चर्चा की गई है। यह ध्यान देता है कि मानव मॉडरेटर संवादों की समीक्षा कर सकते हैं, जैसे Google के Gemini में, और क्लाउड प्रदाताओं जैसे अवसंरचना साझेदारों के पास पहुंच होती है। इसमें 2023 के DeepSeek डेटा उल्लंघन का उल्लेख है जहां चैट लॉग और कुंजियों की एक मिलियन से अधिक पंक्तियाँ उजागर हुई थीं। सैमसंग के इंजीनियरों ने स्रोत कोड ChatGPT को भेजा था, और एक अमेरिकी साइबर सुरक्षा एजेंसी के प्रमुख ने संवेदनशील दस्तावेज़ अपलोड किए थे। लेखक सावधानी बरतने और डेटा नीतियों को समझने की सलाह देता है।