एआई परिवर्तन की गति प्रबंधित करने के लिए एक विकासवादी वास्तुकला पैटर्न
OpenAI
Anthropic
Solo.io
Portkey
LiteLLM
यह लेख, InfoQ के प्रमाणित आर्किटेक्ट ऑनलाइन कार्यक्रम के प्रतिभागियों के सामूहिक अंतर्दृष्टि पर आधारित है, एआई गेटवे को एक विकासवादी वास्तुकला सीम के रूप में खोजता है। यह तर्क देता है कि एआई मॉडल, प्रोटोकॉल और विफलता मोड का तेज़ विकास उद्यम प्रणालियों के साथ एक मौलिक गति बेमेल पैदा करता है, और एक एआई गेटवे इस परिवर्तन को अलग कर सकता है। यह पैटर्न मॉडल रूटिंग, सुरक्षा, अवलोकन, और ऑडिट को एक नियंत्रण तल में केंद्रीकृत करता है, जिससे सिस्टम के बाकी हिस्से स्थिर रह सकते हैं।
लेख में उद्यम AI की मुख्य चुनौती को मॉडल प्रदर्शन के बजाय पारिस्थितिकी तंत्र के परिवर्तन की गति के रूप में पहचाना गया है, जिसमें नए मॉडल, MCP और A2A जैसे प्रोटोकॉल, और नए सुरक्षा खतरे शामिल हैं। पारंपरिक API गेटवे विफल हो जाते हैं क्योंकि वे नियतिवाद, पैटर्न-परत विफलताओं और पूर्ण रूप से निर्दिष्ट संचालन मान लेते हैं, जबकि एजेंट गैर-नियतिवादी होते हैं और शब्दार्थ स्तर पर विफल होते हैं। एक AI गेटवे एक वास्तुशिल्प सीम के रूप में कार्य करता है, जो मॉडल रूटिंग, सुरक्षा (एजेंट कार्यों के लिए शून्य-विश्वास सहित), सामग्री सुरक्षा उपाय, अवलोकनीयता और ऑडिट के लिए एकीकृत नियंत्रण तल प्रदान करता है, जिससे घटकों को अपनी गति से विकसित होने में सक्षम बनाता है। kgateway, Portkey और LiteLLM जैसे व्यावहारिक कार्यान्वयन मौजूद हैं, और एक 'पॉलिसी-एज़-कॉन्फ़िग' पैटर्न उभर रहा है। लेख में विलंबता, केंद्रीकरण, संभाव्य सुरक्षा उपाय, परिचालन लागत और प्रदाता-मूल सुविधाओं तक पहुंच में देरी सहित व्यापार-नापसंद पर चर्चा की गई है। यह संगठनात्मक विकास के चार चरणों की रूपरेखा प्रस्तुत करता है: एकल टीम/प्रदाता, विस्तारित अपनाना, समेकन के लिए दबाव, और साझा परत में एकीकरण, 2025 में 362 AI घटनाओं में वृद्धि और रेप्लिट के एजेंट द्वारा उत्पादन डेटाबेस साफ़ करने और क्लाउड पर $500M अनपेक्षित खर्च जैसे उदाहरणों का हवाला देते हुए। गेटवे-लागू और एप्लिकेशन-लागू नीतियों के बीच की सीमा और सुरक्षा उपायों के संचालन के बोझ के बारे में खुले प्रश्न बने हुए हैं।
स्रोत: InfoQ 中国 —
मूल
