Mamba: Die Architektur, die Transformers besiegen sollte

Die Mamba-Architektur, basierend auf selektiven Zustandsräumen (SSM), wurde als Alternative zu Transformatoren eingeführt und versprach lineare anstatt quadratischer Komplexität. In der Praxis hat Mamba Transformatoren jedoch nicht ersetzt, sondern fand Eingang in Hybridmodelle, bei denen es mit Aufmerksamkeitsschichten kombiniert wird: etwa eine Aufmerksamkeitsschicht auf sieben Mamba-Schichten.

Moonshot AI

QuantCode-Bench: ein neuer Benchmark zur Bewertung der Fähigkeit von LLMs, ausführbare algorithmische Handelsstrategien zu generieren

Forscher haben QuantCode-Bench entwickelt, einen Benchmark, der bewertet, wie gut große Sprachmodelle (Large Language Models, LLMs) aus textuellen Spezifikationen ausführbare algorithmische Handelsstrategien generieren können. Der Benchmark bewertet nicht nur die Code-Korrektheit, sondern auch die semantische Übereinstimmung mit der ursprünglichen Handelsidee in vier Phasen: Kompilierung, Backtesting, Handelsgenerierung und Prüfverifikation.

OpenAI Anthropic Google/DeepMind xAI DeepSeek Alibaba/Qwen Moonshot AI