幻覚を起こすコンパイラ：プログラムをニューラルネットワークの重みに直接コンパイルする

コンパイラは伝統的に、高水準コードを特定のハードウェアに合わせたプリミティブな機械命令に変換します。対照的に、新しいパラダイムはニューラルネットワークをターゲットアーキテクチャとして扱います。RASPのような特殊な言語で書かれたプログラムは、トレーニングなしで決定的に直接重みにコンパイルされます。2021年にGail Weiss、Yoav Goldberg、Eran Yahavによって導入されたRASPは、主にselectとaggregateの2つの構文を提供し、トランスフォーマーのアテンションとフィードフォワードのメカニズムを反映しています。2023年には、DeepMindがTracrコンパイラを実装しました。これはRASPプログラムを受け取り、トランスフォーマーの重みを出力し、残差ストリームをメモリとして使用し、変数ごとに互いに素なチャンクを割り当てます。これらのコンパイルされたモデルは完全に解釈可能です。すべての変数の位置と各層の機能がわかります。主な動機は、解釈可能性研究のためのグラウンドトゥルースモデルを作成し、分析ツールのキャリブレーション標準として機能させることです。注目すべき発見は、Tracrの単純な変数割り当てが実ネットワークと比較して非効率的であることです。実ネットワークでは情報が密に重なり合っており、トレーニングされたネットワークはより効率的ですが、乱雑な表現を発達させることが示唆されます。