AIコスト高騰に経営陣が戦略見直しを迫られる
Anthropic
OpenAI
GitHub
ビジネスリーダーたちは、従量課金制への移行によるAIコスト高騰に衝撃を受けている。KPMGの調査では、上級幹部の29%が運用コストの理解に苦戦し、半数近くが導入の再検討を始めている。一方、Netflixのエンジニアが開発したオープンソースツールにより、冗長な入力が削減され、トークンコストを節約できるようになった。
KPMGが20カ国、2000人以上の上級幹部を対象に実施した調査によると、29%がエンタープライズAI導入の規模拡大に伴う運用コストの理解に苦慮しており、ほぼ半数がコストが期待値を上回る場合に導入の段階を見直している。Anthropic、OpenAI、GitHubなどのベンダーは、定額制からトークン単位の従量課金制に移行しており、ショックを与えている。Gartnerの調査によると、2028年までにAI支援コード開発のコストが開発者一人当たりの世界平均給与を超える可能性があり、特に低賃金地域で顕著である。Netflixのエンジニアが作成したオープンソースツールは、LLMに送信される冗長な入力(データベーススキーマやログなど)を削減し、ユーザーのトークンコストを数十万ドル節約する。このツールは、送信前に不要な冗長性を取り除く「スクワッシャー」を使用している。
出典: The Register AI/ML —
原文
