एमएलएसईसीओपीएस: विभिन्न एआई उपयोग मामलों के लिए अलग-अलग प्राथमिकताएँ

जनरेटिव एआई विकास का हिस्सा बन गया है, जिसका उपयोग कोडिंग सहायक (जैसे Copilot, Cursor, Claude, ChatGPT) और एम्बेडेड उत्पाद घटक दोनों के रूप में किया जाता है। इन परिदृश्यों में अलग-अलग जोखिम, नियंत्रण बिंदु और गलतियों की लागत होती है। एआई सिस्टम जीवनचक्र में सुरक्षा को एकीकृत करने के लिए MLSecOps की आवश्यकता है, जिसमें प्रॉम्प्ट और कोड से लेकर डेटासेट, मॉडल, इन्फ्रेंस एपीआई, रनटाइम सुरक्षा और उत्पादन निगरानी शामिल है। डेवलपर टूल परिदृश्य में, प्रमुख खतरों में असुरक्षित कोड का निर्माण, गुप्त रिसाव, अप्रत्यक्ष प्रॉम्प्ट इंजेक्शन और अनुपालन ऑडिटिंग शामिल हैं; नियंत्रण डेवलपर के पास होने चाहिए, जिनमें LLM/एआई फ़ायरवॉल, IDE जाँच, PR समीक्षा और अंतिम पंक्ति के रूप में CI/CD शामिल हैं। उत्पाद एकीकरण परिदृश्य में, एआई एक रनटाइम हमले की सतह बन जाता है, जिसमें प्रॉम्प्ट इंजेक्शन और जेलब्रेक, मॉडल निष्कर्षण, एमएल आपूर्ति श्रृंखला समझौता और एआई एजेंटों पर हमले जैसे खतरे शामिल हैं। एजेंटों को न्यूनतम अधिकारों और सैंडबॉक्सिंग के साथ विशेषाधिकार प्राप्त उपयोगकर्ताओं के रूप में माना जाना चाहिए; 'घातक त्रय' (निजी डेटा पहुंच, अविश्वसनीय इनपुट, बाहरी चैनल) का आकलन करने से जोखिम का मूल्यांकन करने में मदद मिलती है। लेख इस बात पर जोर देता है कि पारंपरिक AppSec उपकरण इन एआई-विशिष्ट कमजोरियों को नजरअंदाज करते हैं, इसलिए MLSecOps DevSecOps को प्रतिस्थापित करने के बजाय विस्तारित करता है।