Writer、トークンコスト削減のためPalmyra X6モデルとハーネスのアップグレードを発表
Writer
マーケター向けAIツール企業であるWriterは、Z.aiのオープンソースモデルGLM-5.2をベースにポストトレーニングを施した新フラッグシップモデル「Palmyra X6」を発表しました。同社は、新モデルとハーネスの変更を組み合わせることで、基本的なタスクに関して顧客のコストを最大50%削減できると見積もっています。これらのアップグレードは木曜日からWriterの顧客が利用可能です。
Writerは、マーケター向けにAIツールとエージェントを提供する企業で、高コストなAI導入の問題を解決することを目的とした新フラッグシップモデル「Palmyra X6」を発表しました。これは、Z.aiのオープンソースモデル「GLM-5.2」のポストトレーニングバリエーションとして構築されており、新しいシステムは、より低価格で導入即応の能力を提供するはずです。同社は、新しいモデルとハーネスインフラストラクチャの変更を組み合わせることで、基本タスクのコストを顧客向けに最大50%削減できると見積もっています。新しいモデルとともに、同社は標準的なエージェントハーネスへの大幅なアップグレードも発表しました。これらの機能は、木曜日からWriterのクライアントが利用できます。CEOのMay Habib氏はTechCrunchに対し、企業はベンチマークを追いかけることにうんざりしており、コストの平坦化を望んでいると語りました。新しいアプローチは、複雑で多段階のタスクをより迅速に、より少ないトークンで実行することを重視し、ハーネスの最適化が重要なてこになります。Writerの研究者による最近の論文では、ハーネスの効率化はモデル選択よりもコスト削減のより確実な方法であり、テスト全体でコストが平均40%低下したことがわかりました。クライアントにとって、エクスペリエンスはモデルに依存しないままです。Palmyra X6は、他のWriterモデルや、AzureやAmazon Bedrockを通じてインポートされた外部モデルと並んで配置されます。Habib氏はまた、コスト削減の推進が、トークンの使用量を増やす金銭的インセンティブを持つ大手AI研究所への不信感を高めていると見ています。
出典: TechCrunch AI —
原文
