セルフホスティング対API：オープンモデル時代におけるタスク解決の真のコストの計算方法

著者は、セルフホスティングとAPIのコストを純粋にトークン単位で比較する一般的な慣行を批判し、セルフホスティングは固定費であるのに対しAPIは変動費であり、重要な指標はトークン単位ではなく解決タスク単位のコストであると指摘します。オープンモデルはSWE-bench Verifiedなどのベンチマークで品質面で追いついてきており、選択は経済的なものとなっています。パート1では損益分岐点分析を導き出します。APIの入力/出力トークン価格（例: Claude Opus 4.8は長文生成でトークン100万あたり15.00ドル、Kimi K3は9.00ドル、DeepSeek V3.2は0.286ドル）をブレンドし、8×H200ノードのセルフホスティングコスト（償却で月額約7700～10300ドル、電気代で月額約580～880ドル）を見積もります。損益分岐点は、月間ボリュームVがcost_per_million_self / (blended_price_api - marginal_cost_self)を超える場合に発生しますが、十分なスループット容量も必要であり、低い稼働率ではAPIの方が安くなります。パート2では、解決タスクあたりのコスト = (試行あたりのトークン予算 * トークンあたりのコスト) / 解決率を導入し、SWE-bench Verifiedのスコアと固定の150万トークン予算を使用します。DeepSeek V3.2はAPI経由でタスクあたり0.49ドルかかるのに対し、所定の稼働率でセルフホスティングすると4.37ドルかかり、同じモデルでも安価なAPIがセルフホスティングに勝ることが示されます。セルフホスティングが勝るのは、Claude Opus 4.8（11.54ドル）やKimi K3（6.57ドル）のような高価なクローズドAPIに対して、高い稼働率の場合のみです。パート3では、コスト以外の要因として、データ所在地（セルフホスティングを強制）、ベンダーロックインと価格変動（例: Moonshot AIが需要によりKimi K3の新規登録を48時間後に停止）、更新の非対称性（APIは無料アップグレード、セルフホスティングは労力がかかる）、およびハードウェア減価償却が会計スケジュールではなくNVIDIAのリリースサイクルに依存することなどを挙げます。結論として、APIかセルフホスティングかの判断は、インフラストラクチャの稼働率、データ要件、運用上の制約に依存し、トークン価格だけではないということです。