Intelligenz wird kostenlos – wie geht es weiter? Datensysteme für Agenten, von Agenten und durch Agenten

Autoren des EPIC Data Lab an der University of California, Berkeley analysieren die Auswirkungen sinkender Kosten für die Inferenz von KI-Modellen. Im vergangenen Jahr sind die Inferenzpreise um den Faktor 9 bis 900 gefallen, mit einer mittleren Reduktion von etwa dem 50-fachen, sodass die für die meisten kognitiven Aufgaben ausreichende Intelligenz nahezu kostenlos wird. Dies führt zu drei Richtungen für Datensysteme. Erstens Datensysteme für Agenten: Agenten führen eine große Menge an Arbeit aus, einschließlich spekulativer Abfragen (agentisches Spekulieren), bei denen bis zu 80–90 % der Unterabfragen redundant sind, was Optimierungsmöglichkeiten bietet – wie die Wiederverwendung von Ergebnissen und Multi-Abfrage-Optimierung. Zweitens Datensysteme von Agenten: Es wird eine Infrastruktur benötigt, um Tausende von Agenten zu verwalten – organisiertes Gedächtnis (strukturiert statt unstrukturierter Markdown-Dateien), Koordination und Konfliktlösung für gleichzeitige Änderungen. Drittens Datensysteme, die von Agenten erstellt werden: Agenten können ganze Datensysteme spontan synthetisieren, aber deren Korrektheit muss überprüft werden. Die Autoren diskutieren das Konzept des strukturierten Gedächtnisses für Agenten, bei dem Erinnerungen nach Attributen (z.B. Modul, Sprache, Operation) organisiert sind, sowie Probleme der kollaborativen Bearbeitung und des Livelocks, wenn mehrere Agenten gleichzeitig arbeiten.