KI-Modellentwickler: Betreiben sie Pelikan-Maximierung?

Ein Forscher testete sieben moderne KI-Modelle mit einem beliebten informellen Benchmark: Erstellung eines SVG-Bildes eines Pelikans auf einem Fahrrad. Die Ergebnisse zeigen keine Hinweise darauf, dass die Modelle für diese spezifische Aufforderung optimiert sind, und entkräften damit den Verdacht der Benchmark-Maximierung.

OpenAI Anthropic Google/DeepMind xAI Alibaba/Qwen DeepSeek

Wie Modelle Konzepte in Mannigfaltigkeiten verpacken: Theorie, Praxis und die Suche nach Kreisen

Der Artikel untersucht, wie KI-Modelle Konzepte geometrisch in Mannigfaltigkeiten (z. B. Kreise, Simplizes) in ihren Aktivierungsräumen strukturieren. Er erklärt die theoretischen Grundlagen, einschließlich des Einbettungssatzes von Whitney, und demonstriert die empirische Erkennung von kreisförmigen Darstellungen für zyklische Konzepte wie Wochentage in GPT-2 und Mistral 7B.

OpenAI Mistral