Telecom Exchange, yapay zekâ görevleri için GPU yapılandırmalı özel sunucu kiralama hizmetini başlattı

Telecom Exchange, yapay zekayı aktif olarak benimseyen ancak önemli maliyetlerden kaçınmak isteyen şirketler için optimal bir çözüm sağlayan, iş ortağı altyapısında barındırılan özel fiziksel sunucuların kiralanmasına yönelik bir hizmet başlattı. GPU tabanlı yapılandırmalar; sinir ağı eğitimi, büyük veri hacimlerinin işlenmesi ve yüksek performanslı bilgi işlem gibi kaynak yoğun yapay zeka görevlerini mümkün kılıyor. Büyük modellerin eğitimi ve ince ayarı için birden fazla sunucudan oluşan kümeler kiralanabilir. GPU kümeleri ayrıca tasarımcılar için render, 3D grafik ve VDI ile Veri Bilimi uzmanları için de uygundur. Birden fazla fiziksel sunucuda dağıtık bilgi işlem için Kubernetes kümeleri veya diğer sistemlerin dağıtılması mümkündür. Hizmet, müşteri bilgi tabanları ve belgelerle etkileşim kurabilen sistemler oluşturmak için RAG (Alım Artırılmış Üretim) teknolojisini kullanır. Pahalı ekipman satın almaya gerek yoktur; 400 Gbps'ye kadar bant genişliğine sahip internet bağlantıları ve yerel ağlar, GPU kartları ve donanımsal RAID denetleyicileri dahil her şey kiralanabilir. Tier III veri merkezlerinde 2 dakikadan itibaren dağıtım ile 100'den fazla hazır yapılandırma mevcuttur. Yapay zeka görevleri için altyapı kapasitesi ekipman değişimi olmadan ölçeklendirilebilir. Telecom Exchange'de kurumsal satış başkanı Dina Fomicheva, yapay zeka bilgi işlem gücüne yönelik artan talebe dikkat çekti; çünkü modellerin eğitimi ve çıkarımı, bağımsız olarak satın alınması ve bakımı pahalı olan kaynaklar gerektiriyor. İş ortağı programı aracılığıyla, her müşteri için tam kontrol, izolasyon ve yapılandırma esnekliğini koruyarak GPU'lu sunucuları kiralayabilirler. Hizmetin maliyeti ayda 50 bin rubleden başlıyor.