llama.cpp b10075 アップデート：ローカルAIエンジンの4つの改善点

最近のllama.cpp b10075アップデートでは、ローカルAIエンジンに4つの主要な改善がもたらされました。第一に、Llama 4モデルファミリーのサポートが追加され、ユーザーがこれらのモデルをローカルで実行できるようになりました。第二に、KVキャッシュの処理を改善することでメモリ使用量が最適化され、推論中のRAM消費が削減されました。第三に、ドラフトモデルを使用してテキスト生成を高速化する新しい投機的デコード機能が導入されました。最後に、AMD ROCmやIntel oneAPIを含むさまざまなハードウェアバックエンドとの互換性が向上し、GPUサポートが拡大されました。