Telecom Exchange, GPU 구성의 AI 작업용 전용 서버 임대 서비스 출시

Telecom Exchange는 파트너 인프라에 호스팅된 전용 물리 서버 임대 서비스를 도입했습니다. 이는 AI를 적극적으로 도입하면서도 상당한 비용을 피하려는 기업에 최적의 솔루션을 제공합니다. GPU 기반 구성은 신경망 훈련, 대규모 데이터 처리, 고성능 컴퓨팅과 같은 리소스 집약적인 AI 작업을 가능하게 합니다. 대규모 모델의 훈련 및 미세 조정을 위해 여러 서버의 클러스터를 임대할 수 있습니다. GPU 클러스터는 렌더링, 3D 그래픽, 디자이너를 위한 VDI(가상 데스크톱 인프라), 그리고 데이터 과학 전문가에게도 적합합니다. 여러 물리 서버에 분산 컴퓨팅을 관리하기 위한 Kubernetes 클러스터 또는 기타 시스템을 배포할 수 있습니다. 이 서비스는 RAG(검색 증강 생성) 기술을 활용하여 클라이언트의 지식 기반 및 문서와 상호 작용할 수 있는 시스템을 만듭니다. 값비싼 장비를 구매할 필요가 없으며, 최대 400Gbps 대역폭의 인터넷 링크와 로컬 네트워크, GPU 카드, 하드웨어 RAID 컨트롤러를 포함한 모든 것을 임대할 수 있습니다. Tier III 데이터 센터에서 100가지 이상의 준비된 구성이 제공되며, 배포는 2분 만에 이루어집니다. AI 작업을 위한 인프라 용량은 장비 교체 없이 확장할 수 있습니다. Telecom Exchange의 기업 영업 책임자 디나 포미체바는 AI 컴퓨팅 파워에 대한 수요가 증가하고 있다고 언급했습니다. 모델 훈련과 추론에는 자체적으로 구매하고 유지 관리하기에 비용이 많이 드는 리소스가 필요하기 때문입니다. 파트너 프로그램을 통해 그들은 GPU가 장착된 서버를 임대할 수 있으며, 각 고객에 대한 완전한 제어, 격리 및 구성 유연성을 유지할 수 있습니다. 이 서비스 비용은 월 5만 루블부터 시작합니다.