Yapay Zeka Modelleri Gereğinden Fazla mı Çalışıyor? Ağırlıksız Sinir Ağları, Arama Tablosu Tabanlı Bir Alternatif Sunuyor

Teksas Üniversitesi Austin'den Profesör Lizy K. John, büyük ölçüde çarpma işlemlerine dayanan mevcut yapay zeka modellerinin gerekenden fazla iş yapıyor olabileceğini savunuyor. Beş yıldır, girdileri ağırlıklarla çarpmak yerine birbirine bağlı arama tabloları kullanan ve hesaplamayı saklanan ikili yanıtlara danışmaya indirgeyen ağırlıksız sinir ağları üzerinde çalışıyor. İnsan aktivitesi tanıma, elektrokardiyogram (EKG) takibi ve anahtar kelime tespiti gibi görevlerde ekibinin ağları, doğruluğu korurken 1000 kat daha küçük boyut ve enerji kullanımı elde ediyor. Örneğin, anahtar kelime tespit modeli, mevcut en iyi endüstri modelinin 5000 nanojulden fazla kullandığı yerde çıkarım başına yalnızca 42 ila 79 nanojul kullanıyor. John, bir sohbet robotunun mimarisinin yaklaşık yarısı olan transformatör ağlarının çok katmanlı algılayıcı kısmını çoktan değiştirdi ve dikkat mekanizmasını da değiştirmeyi hedefliyor. Ağırlıksız ağların, tıbbi sensörler için bükülebilir plastik alt tabakalar gibi küçük, düşük güçlü cihazlarda yapay zekaya olanak sağlayabileceğine inanıyor. Eğitim hala grafik işlem birimlerinde (GPU) gerçekleşiyor, ancak John, alan programlanabilir kapı dizilerinin (FPGA) arama tablolarının doğal uyumu nedeniyle sonunda FPGA tabanlı donanım kullanmayı umuyor.