Google DeepMind, HBF Belleğini Yapay Zeka Çıkarımının Anahtarı Olarak Görüyor

Bu hafta Sandisk ve SK hynix, büyük depolama kapasitesini yüksek arayüz bant genişliğiyle birleştiren HBF standardındaki belleği tanıttı. Bu gelişme, endüstri konsorsiyumu düzeyinde Tenstorrent ve Google tarafından da desteklendi; temsilcileri, HBF'nin çıkarımda kendini kanıtlayacağını belirtti. Çıkarım, önceden eğitilmiş yapay zeka modellerinden sonuçlar çıkarma sürecini ifade eder. HBF, düzen açısından HBM belleğine benzer ancak ondan farklı olarak uzun süreli veri depolamaya izin verir. Google DeepMind araştırmacısı Xiaoyu Ma'ya göre, çıkarım hesaplamaları için verileri hızlı bir şekilde geri getirme yeteneği, yapay zeka sistemlerindeki mevcut eğilimler göz önüne alındığında büyük talep görecektir. Sonuç olarak, yapay zeka bilişim altyapısına yönelik HBF talebi de artacaktır. Ayrıca, veri merkezi operatörleri için önemli olan yüksek enerji verimliliği sağlar. Bununla birlikte, uzmanlar halihazırda HBF'nin bu tür sistemlerde yoğun kullanımının teorik olarak çiplerin hızlı arızalanmasına yol açabileceğinden endişe duyuyor. Altyapının, HBF'nin öncelikle veri okuma için kullanılacağı şekilde organize edilmesini öneriyorlar. Hız dengesizliğini telafi etmek için HBF, yazma işlemleri için kullanılacak HBM ile kombinasyon halinde kullanılmalıdır.