Kurumsal AI Kemer için Referans Mimarisi: Üretimde Güvenli Ajan Dağıtımı için Dört Katman

Makale, Kubernetes üzerinde kendi kendine barındırılan bir Kurumsal Yapay Zeka Donanımı (Enterprise AI Harness) oluşturmak için dört katmandan oluşan bir referans mimarisi sunuyor: Girdi (Input), Ajan Döngüsü (Agent Loop), Yürütme (Execution) ve Kimlik, Politika ve Denetim (Identity, Policy & Audit). Girdi katmanı, Traefik ve n8n web kancaları (webhooks) gibi araçları kullanarak kullanıcı, ajan ve olay trafiğini ayırıyor. Ajan Döngüsü (ReAct) katmanı, kagent ve LangGraph gibi bileşenleri kullanarak bellek, delegasyon ve insan denetimli döngü (HITL, human-in-the-loop) ile durum bilgisi olan ajan oturumlarını yönetiyor. Yürütme katmanı, FastMCP, n8n ve LiteLLM aracılığıyla harici kaynaklara (MCP araçları, iş akışları, büyük dil modelleri - LLM'ler) erişimi kontrol ediyor. Kimlik, Politika ve Denetim katmanı, Keycloak, agentgateway, Vault/OpenBao ve OTEL/Grafana aracılığıyla çapraz kesen kimlik doğrulama, yetkilendirme ve denetim sağlıyor. Mimari, güvenlik sınırları, çok kiracılılık (multi-tenancy; RLS, ad alanları, ağ politikaları - network policies aracılığıyla) ve dağıtım bağlamını (Kubernetes, Helm, NetworkPolicy) vurguluyor. Beceriler (skills), pod yerel yetenek enjeksiyonları (SKILL.md içeren OCI görüntüleri) olarak uygulanırken, araçlar ağ üzerinden erişilebilir durumda. Makale, bir mühendislik görevi örneğiyle iş akışını gösteriyor ve kimliğin girdiden agentgateway üzerinden yürütmeye nasıl aktığını, tüm süreç boyunca denetim izlerinin (audit trails) nasıl tutulduğunu anlatıyor. Yazar, bunun bir ürün değil, çalışan bir referans modeli olduğunu belirtiyor ve temel katmanlar hakkında tartışmaya davet ediyor.