ABBEL: Training von LLMs zur Aktualisierung von Überzeugungen für effiziente Langzeitinteraktionen

ABBEL ist ein Framework, das die Leistung von Large Language Models bei langfristigen Aufgaben verbessert, indem es den Informationsgehalt von Zusammenfassungen mithilfe von Überzeugungszuständen in natürlicher Sprache isoliert und überwacht. Es verringert die Leistungslücke im Vergleich zu Vollkontextmodellen um etwa 50 %, während die Trainingsschritte halbiert und deutlich weniger Speicher benötigt werden.

Cursor Alibaba/Qwen

GCT: neue KI-Methode verwandelt Black Boxes der Hirnvorhersage in testbare linguistische Theorien

Microsoft Research und Partner haben Generative Causal Testing (GCT) entwickelt, das auf großen Sprachmodellen basierende Hirnvorhersagemodelle in prägnante verbale Erklärungen (z. B. „Essenszubereitung“) destilliert und anschließend ein großes Sprachmodell nutzt, um neue Geschichten zu schreiben, die diese Erklärungen im funktionellen Magnetresonanztomographie-Verfahren kausal testen. GCT bestätigte bekannte Selektivität, entwirrte benachbarte ortsverarbeitende Regionen und entdeckte winzige präfrontale Zonen für Dialog, Uhrzeiten und Maßeinheiten.

Microsoft