KI-Modelle arbeiten härter als nötig? Gewichtslose neuronale Netze bieten eine lookup-basierte Alternative
Professorin Lizy K. John von der UT Austin hat fünf Jahre damit verbracht, gewichtslose neuronale Netze zu entwickeln, die die arithmetische Multiplikation durch Nachschlagetabellen ersetzen. Diese Netze können bei Aufgaben wie medizinischer Überwachung und Schlüsselworterkennung bis zu 1.000-mal kleiner und 1.000-mal schneller sein als herkömmliche neuronale Netze, während sie eine vergleichbare Genauigkeit beibehalten. John glaubt, dass der Ansatz schließlich auf Transformer-Modelle skaliert werden könnte, die in Chatbots verwendet werden.
Google/DeepMind

