Нужно ли ИИ-моделям работать так усердно? Нейросети без весов предлагают альтернативу на основе таблиц поиска
Профессор Лизи К. Джон из Техасского университета в Остине пять лет разрабатывала нейросети без весов, которые заменяют арифметическое умножение таблицами поиска. Такие сети могут быть в 1000 раз меньше и в 1000 раз быстрее обычных нейросетей при выполнении задач, таких как мониторинг медицинских показателей и распознавание ключевых слов, сохраняя при этом сопоставимую точность. Джон считает, что этот подход в перспективе может быть масштабирован до трансформерных моделей, используемых в чат-ботах.
Профессор Лизи К. Джон из Техасского университета в Остине утверждает, что современные модели ИИ, которые в значительной степени полагаются на операции умножения, могут выполнять больше работы, чем необходимо. В течение пяти лет она работала над нейронными сетями без весов, которые используют взаимосвязанные таблицы поиска вместо умножения входных данных на веса, сводя вычисления к обращению к
Показать ещё ↓
Источник: IEEE Spectrum AI —
оригинал