webAI stellt TwIL-LM vor: Eine Familie formal-logischer Modelle für lokale Autoformalisierung

webAI hat TwIL-LM veröffentlicht, eine Familie aus zwei Modellen für formale Logik mit 1,7 Mrd. und 3 Mrd. Parametern. Das 3-Milliarden-Modell TwIL-LM3 ist ein fusioniertes Feintuning von SmolLM3-3B; das 1,7-Milliarden-Modell ist ein PEFT-LoRA-Adapter für SmolLM2-1.7B-Instruct. Beide zielen auf Autoformalalisierung ab: die Übersetzung von Englisch in Logik erster Stufe und die Prüfung, ob eine Schlussfolgerung aus ihren Prämissen folgt. Beide laufen lokal, mit einem quantisierten Build von 1,06 GB für das 1,7B-Modell und einem Q4_K_M-GGUF von 1,78 GiB für das 3B-Modell. Die Ankündigung von webAI hebt hervor, dass gpt-oss-120b auf vier von fünf formalen Reasoning-Pfaden geschlagen wird. Die Bereitstellung ist teilweise, da beide Checkpoints unter der webAI Non-Commercial License Version 1.0 veröffentlicht werden; eine Bereitstellung, die Einnahmen generiert, erfordert eine separate Vereinbarung. Die Modelle zielen auf verschiedene Branchen ab, darunter Compliance und RegTech, Finanzdienstleistungen, Gesundheitswesen und Pharma, Recht und Vertragsbetrieb sowie formale Methodenforschung. Zu den Anwendungen gehören die Übersetzung in Logik erster Stufe, die Klassifizierung von Implikationen, die Umwandlung natürlicher Sprache in strukturierte Abfragen, das Entwerfen und Kritik von Lean-Formalisierungen sowie eine Verifiziererschicht. TwIL-LM3 wurde in vier Stufen entwickelt: LoRA-überwachtes Feintuning, Checkpoint-Fusion, WiSE-FT-Interpolation zurück zum vortrainierten Basismodell bei λ = 0,25 und MGPO, eine entropiegewichtete GRPO-Stufe, die gegen einen programmatischen Verifizierer durchgeführt wird. Der veröffentlichte Checkpoint ist Schritt 2071. TwIL-LM3 erreicht 96,4 bei Regelinduktion, 87,6 bei semantischer Analyse, 64,6 bei Lean-Formalisierung, 52,0 bei exakter Formatantwort und 68,7 bei Implikationsbeschriftung. Auf Track A erreicht es 0,4488 im Sechs-Pfade-Durchschnitt und 0,4218 im Makro-Gate und übertrifft alle Arme bis einschließlich LFM2.5-8B-A1B, aber nicht die beiden größten Arme (Qwen3-8B und gpt-oss-120b). Effizienz ist ein entscheidender Vorteil: TwIL-LM3 erzeugt die kürzesten Generierungen (482 Token) und die meisten Antworten pro Sekunde (32,9 gegenüber 4,2 beim 120-Milliarden-Modell). TwIL-LM3 verbessert sich in-domain um +26% relativ, während es im gehaltenen Kern-Durchschnitt zusätzlich +0,022 gewinnt und damit als einziges Modell in beiden Bereichen zulegt. Das 1,7-Milliarden-Modell bietet einen anderen Kompromiss mit gemischten Out-of-Distribution-Ergebnissen. Kernaussagen: TwIL-LM3 und TwIL-LM sind für formale Logik unter nicht-kommerzieller Lizenz gedacht; TwIL-LM3 liegt beim Sechs-Pfade-Durchschnitt hinter gpt-oss-120b; sein echter Vorteil ist die Effizienz; WiSE-FT bei λ=0,25 ist der Grund, warum In-Domain-Gewinne die gehaltene Leistung nicht kollabieren lassen.