Telecom Exchange aloittaa omistettujen palvelimien vuokrauksen GPU-kokoonpanoilla tekoälytehtäviin

Telecom Exchange on tuonut markkinoille palvelun, joka tarjoaa mahdollisuuden vuokrata omistettuja fyysisiä palvelimia kumppaniensä infrastruktuurissa. Tämä on optimaalinen ratkaisu yrityksille, jotka ottavat aktiivisesti käyttöön tekoälyä mutta haluavat välttää merkittäviä kustannuksia. GPU-pohjaiset kokoonpanot mahdollistavat resurssi-intensiiviset tekoälytehtävät, kuten neuroverkkojen kouluttamisen, suurten datamäärien käsittelyn ja tehokkaan laskennan. Suurten mallien koulutusta ja hienosäätöä varten voidaan vuokrata useiden palvelimien klustereita. GPU-klusterit soveltuvat myös renderöintiin, 3D-grafiikkaan ja suunnittelijoiden VDI-ratkaisuihin sekä Data Science -asiantuntijoille. Useille fyysisille palvelimille on mahdollista ottaa käyttöön Kubernetes-klustereita tai muita hajautetun laskennan hallintajärjestelmiä. Palvelu hyödyntää RAG-tekniikkaa, joka perustuu haussa täydennettyyn generointiin, luodakseen järjestelmiä, jotka voivat olla vuorovaikutuksessa asiakkaiden tietokantojen ja asiakirjojen kanssa. Kalliita laitteita ei tarvitse ostaa; kaikki on vuokrattavissa, mukaan lukien internetyhteydet ja lähiverkot jopa 400 Gbps:n kaistanleveydellä, GPU-kortit ja laitteistorait-ohjaimet. Yli 100 valmista kokoonpanoa on saatavilla Tier III -datakeskuksissa, ja käyttöönotto kestää kahdesta minuutista alkaen. Tekoälytehtävien infrastruktuurikapasiteettia voidaan skaalata ilman laitteiden vaihtoa. Telecom Exchangein yritysmyynnin johtaja Dina Fomicheva huomautti, että tekoälyn laskentatehon kysyntä kasvaa, sillä mallien kouluttaminen ja päättely vaativat resursseja, joiden ostaminen ja ylläpito omalla kustannuksella on kallista. Kumppaniohjelman kautta he voivat tarjota GPU-palvelimia vuokralle säilyttäen samalla täyden hallinnan, eristyksen ja kokoonpanon joustavuuden jokaiselle asiakkaalle. Palvelun hinta alkaa 50 tuhannesta ruplasta kuukaudessa.