Kubernetes पर एंटरप्राइज AI हार्नेस के लिए संदर्भ आर्किटेक्चर: प्रोडक्शन में सुरक्षित एजेंट डिप्लॉयमेंट के लिए चार परतें

यह लेख कुबेरनेट्स पर एक सेल्फ़-होस्टेड एंटरप्राइज़ AI हार्नेस के निर्माण के लिए एक संदर्भ आर्किटेक्चर प्रस्तुत करता है, जो चार परतों में संरचित है: इनपुट, एजेंट लूप, निष्पादन, और पहचान, नीति एवं ऑडिट। इनपुट परत Traefik और n8n वेबहुक जैसे टूल्स का उपयोग करके उपयोगकर्ता, एजेंट और ईवेंट ट्रैफ़िक को अलग करती है। एजेंट लूप (ReAct) परत मेमोरी, प्रतिनिधिमंडल और human-in-the-loop (HITL) के साथ स्टेटफुल एजेंट सत्रों का प्रबंधन करती है, जिसमें kagent और LangGraph जैसे घटक शामिल हैं। निष्पादन परत FastMCP, n8n और LiteLLM के माध्यम से बाहरी संसाधनों (MCP टूल्स, वर्कफ़्लोज़, LLMs) तक पहुँच को नियंत्रित करती है। पहचान, नीति एवं ऑडिट परत Keycloak, agentgateway, Vault/OpenBao और OTEL/Grafana के माध्यम से क्रॉस-कटिंग प्रमाणीकरण, प्राधिकरण और ऑडिटिंग प्रदान करती है। आर्किटेक्चर सुरक्षा सीमाओं, मल्टी-टेनेंसी (RLS, नेमस्पेस, नेटवर्क पॉलिसियों के माध्यम से) और तैनाती संदर्भ (कुबेरनेट्स, हेल्म, नेटवर्कपॉलिसी) पर जोर देता है। स्किल्स को पॉड-लोकल क्षमता इंजेक्शन (SKILL.md के साथ OCI इमेज) के रूप में लागू किया जाता है, जबकि टूल्स नेटवर्क-एक्सेसिबल होते हैं। लेख एक इंजीनियरिंग कार्य उदाहरण के साथ वर्कफ़्लो को चित्रित करता है, यह दिखाते हुए कि कैसे पहचान इनपुट से agentgateway के माध्यम से निष्पादन तक प्रवाहित होती है, और पूरे ऑडिट ट्रेल के साथ। लेखक नोट करता है कि यह एक कार्यशील संदर्भ मॉडल है, कोई उत्पाद नहीं, और आवश्यक परतों पर चर्चा के लिए आमंत्रित करता है।