प्रोडक्शन में AI एजेंट्स, MCP सर्वर्स और LLM ऐप्स को सुरक्षित करना: एक व्यावहारिक रूपरेखा

Mend.io का नया गाइड, 'Securing AI agents, MCP servers & LLM apps: A practical framework' (एजेंट्स, MCP सर्वर और LLM ऐप्स को सुरक्षित करना: एक व्यावहारिक ढांचा), एजेंट्स, MCP इंटीग्रेशन और LLM-संचालित अनुप्रयोगों को तेज़ी से अपनाने से उत्पन्न सुरक्षा अंतर को लक्षित करता है। पारंपरिक AppSec विफल हो जाता है क्योंकि एजेंट का व्यवहार केवल कोड से नहीं, बल्कि मॉडल, सिस्टम प्रॉम्प्ट, प्राप्त संदर्भ, उपयोगकर्ता इनपुट और टूल्स से उत्पन्न होता है, जिससे नए विफलता मोड सामने आते हैं, जैसे डेटा के माध्यम से प्रॉम्प्ट इंजेक्शन, अत्यधिक अनुमति वाले एजेंट्स, अप्रचलित मॉडल और ज़हरीले टूल विवरण। गाइड पाँच-परत वाला हमला सतह मानचित्र पेश करता है जिसमें इंटरैक्शन, एजेंट, इंटीग्रेशन, मॉडल और कोड परतें शामिल हैं, और खोज के लिए आर्टिफैक्ट प्रदान करता है, जैसे रिपॉजिटरी स्कैन करना और सेवा खातों का ऑडिट करना, साथ ही फिक्सिंग के लिए, जिसमें 12-बिंदु वाली गलत कॉन्फ़िगरेशन जाँच सूची और प्राथमिकता निर्धारण पाइपलाइन शामिल है। रनटाइम सुरक्षा के लिए, यह इन-ऐप Python SDK या स्टैंडअलोन API सर्वर के रूप में गार्डरेल, सिस्टम प्रॉम्प्ट हार्डनिंग पैटर्न, और NIST AI RMF और OWASP AIMA जैसे मानकों के साथ संरेखण की सिफारिश करता है। परिपक्वता रोडमैप में उभरते से अग्रणी तक चार चरण शामिल हैं, साथ ही 15-प्रश्नों वाला स्व-मूल्यांकन। मुख्य निष्कर्षों में जोर दिया गया है कि एजेंट का व्यवहार कई कारकों से उभरता है, पाँच जोखिम परतें हैं, और स्वचालित ट्राइएज को साक्ष्य-आधारित होना चाहिए, जबकि जोखिम स्वीकृति केवल मानव द्वारा की जानी चाहिए।