Компилятор, который галлюцинирует: компиляция программ прямо в веса нейронной сети
Исследователи разрабатывают компиляторы, которые переводят программы, читаемые человеком, непосредственно в веса нейронных сетей, минуя традиционное обучение. Такой подход может обеспечить эталонную истину для исследований интерпретируемости, поскольку полученные модели имеют известные внутренние механизмы.
Компилятор традиционно переводит высокоуровневый код в примитивные машинные инструкции, адаптированные под конкретное оборудование. В противоположность этому, новая парадигма рассматривает нейронные сети как целевую архитектуру: программы, написанные на специализированном языке, таком как RASP, компилируются непосредственно в веса, детерминированно и без обучения. RASP, представленный в 2021 году
Показать ещё ↓
Источник: Habr — хаб ИИ —
оригинал