Self-Hosting vs. API: Wie man die echten Kosten einer gelösten Aufgabe im Zeitalter offener Modelle berechnet

Der Autor kritisiert die gängige Praxis, die Kosten von Self-Hosting und API allein auf Pro-Token-Basis zu vergleichen, und weist darauf hin, dass Self-Hosting Fixkosten verursacht, während die API variabel ist, und dass die relevante Metrik die Kosten pro gelöster Aufgabe und nicht pro Token sind. Offene Modelle haben bei Benchmarks wie SWE-bench Verified qualitativ aufgeholt, sodass die Wahl zu einer wirtschaftlichen Frage wird. Teil 1 leitet eine Break-Even-Analyse ab: Mischung der Input/Output-Token-Preise für die API (z. B. Claude Opus 4.8 mit 15,00 Dollar/Millionen Tokens für lange Generierungen, Kimi K3 mit 9,00 Dollar, DeepSeek V3.2 mit 0,286 Dollar) und Schätzung der Self-Hosting-Kosten für einen 8×H200-Knoten (amortisiert etwa 7.700–10.300 Dollar/Monat plus Stromkosten von etwa 580–880 Dollar/Monat). Der Break-Even tritt ein, wenn das monatliche Volumen V den Wert cost_per_million_self / (blended_price_api – marginal_cost_self) übersteigt, erfordert aber auch ausreichende Durchsatzkapazität; bei geringer Auslastung ist die API günstiger. Teil 2 führt die Kosten pro gelöster Aufgabe ein = (token_budget_per_attempt * cost_per_token) / solve_rate, unter Verwendung von SWE-bench Verified-Ergebnissen und einem festen Budget von 1,5 Millionen Tokens. DeepSeek V3.2 kostet über API 0,49 Dollar pro Aufgabe, während Self-Hosting bei gegebener Auslastung 4,37 Dollar kostet – das zeigt, dass eine günstige API bei gleichem Modell günstiger ist als Self-Hosting. Self-Hosting lohnt sich nur gegenüber teuren, geschlossenen APIs wie Claude Opus 4.8 (11,54 Dollar) oder Kimi K3 (6,57 Dollar) bei hoher Auslastung. Teil 3 nennt nicht-kostenbezogene Faktoren: Datenresidenz (erzwingt Self-Hosting), Anbieterbindung und Preisvolatilität (z. B. pausierte Moonshot AI die Neuanmeldungen für Kimi K3 nach 48 Stunden aufgrund der Nachfrage), Asymmetrie von Updates (API erhält kostenlose Upgrades, Self-Hosting erfordert Aufwand) sowie Hardware-Abschreibung nach NVIDIA-Veröffentlichungszyklen statt nach bilanziellen Abschreibungsplänen. Die Schlussfolgerung lautet, dass die Entscheidung zwischen API und Self-Hosting von der Infrastrukturauslastung, den Datenanforderungen und den betrieblichen Rahmenbedingungen abhängt – nicht allein vom Token-Preis.