Anthropic Claude Uygulamaları Gateway'in AWS'te Kurumsal İş Yükleri için Dağıtımı
Anthropic
Amazon Web Services
Anthropic, Claude Code ve Claude Desktop uygulamaları ile Amazon Bedrock veya AWS'teki Claude Platform arasında yer alan, kendi kendine barındırılan bir yönetişim katmanı olan Claude uygulamaları gateway için referans bir dağıtım yayınladı. Gateway, kurumsal yapay zeka yöneticilerine merkezi kimlik doğrulama, politika uygulama, telemetri, yük devretmeli yönlendirme ve harcama limitleri sağlar. Bu yazı, mimariyi, kurumsal dağıtım desenlerini ve uygulama kaynaklarını detaylandırır.
Claude uygulama ağ geçidi, Claude Code ve Claude Desktop uygulamaları için, bu uygulamalar ile Amazon Bedrock veya AWS'deki Claude Platformu arasına yerleştirilen, kendi kendine barındırılan bir yönetişim katmanıdır. Referans dağıtımında, bir VPC içinde AWS Fargate üzerinde bir konteyner olarak çalışır; kısa ömürlü kimlik doğrulama durumunu Amazon RDS for PostgreSQL'de saklayan durum bilgisiz görevler kullanır. Dahili bir Application Load Balancer TLS'yi sonlandırır ve Route 53 özel DNS'i, özel bağlantı üzerinden ağ geçidini çözer. Kimlik doğrulama, bir OIDC kimlik sağlayıcısına devredilir ve geliştirici makinelerinde yukarı akış kimlik bilgileri bulunmaz. YAML içinde tanımlanan politikalar, kimlik sağlayıcı gruplarına göre kapsamlandırılmış model erişimini ve araç izinlerini merkezi olarak kontrol eder ve sunucu tarafında uygulanır. Kullanıcı başına kullanıma ilişkin telemetri, OTLP üzerinden yapılandırılabilir bir toplayıcıya iletilir. Yönlendirme, otomatik yük devretme ile birden çok yukarı akışı destekler. Harcama limitleri kuruluş, grup ve kullanıcı düzeyinde uygulanır; kullanıcı başına geçersiz kılmalar önceliklidir ve bir limite ulaşıldığında HTTP 429 döndürülür. Ağ geçidi, çıkarımdan önce satır içi uygulama sağlayarak AWS Budgets ve Cost Explorer'ı tamamlar. Dağıtım desenleri, tüm Claude kullanımını ağ geçidi üzerinden merkezileştirmeyi, Amazon Bedrock'u özel hesaplarda doğrudan çalıştırmayı veya her ikisinin bir kombinasyonunu içerir.
Kaynak: AWS ML blog —
orijinal
