Forschung RSS

Forschung 🇺🇸

Verwaltung von Reasoning-Levels in großen Sprachmodellen

Der Artikel erklärt, wie Reasoning-Modelle wie DeepSeek-R1 und GPT-5.6 lernen, Reasoning-Traces mittels Reinforcement Learning mit verifizierbaren Belohnungen (RLVR) zu erzeugen. Er beschreibt den Trainingsprozess, Inferenz-Scaling, Denktoken und wie Reasoning-Aufwand-Modi (niedrig/mittel/hoch) durch überwachte Feinabstimmung und Tokenizer-Wechsel implementiert werden.

OpenAIOpenAI DeepSeekDeepSeek Moonshot AIMoonshot AI
Sebastian Raschka27.07 · 20:04
Anwendungen 🇺🇸

TAKC: Aufgabenbewusste Wissenskompression für Unternehmens-KI auf AWS, ein Beyond-RAG-Ansatz

AWS stellt die aufgabenbewusste Wissenskompression (TAKC) vor, eine Technik, die ganze Wissensbasen in aufgabenspezifische Repräsentationen für Unternehmens-KI vorverdichtet. TAKC überwindet die Einschränkungen von RAG bei der aufgabenübergreifenden Argumentation und reduziert die Tokenzahl um das 8- bis 64-fache, während aufgabenrelevante Informationen erhalten bleiben. Die Lösung umfasst mehrstufige Kompressionsstufen und eine serverlose Architektur auf AWS.

Amazon Web ServicesAmazon Web Services AnthropicAnthropic
AWS ML blog27.07 · 20:02
Aktuelle Nachrichten