知能は無料になる——次に来るものは?エージェントのためのデータシステム、エージェントによるデータシステム、エージェント自身のデータシステム
OpenAI
Anthropic
AIのコストは急落している:GPT-4レベルのモデルの出力価格は、100万トークンあたり30ドルから1ドル未満に低下し、長期的にはほぼゼロになる可能性がある。これにより、データシステムには3つの新たな課題が生じる:エージェントと連携するための再設計(エージェントのためのデータシステム)、エージェントの群れを管理するインフラの構築(エージェントによるデータシステム)、そしてエージェント自身による信頼性の高いデータシステムの合成(エージェント自身のデータシステム)。
カリフォルニア大学バークレー校のEPICデータラボの研究者らが、AIモデル推論のコスト低下がもたらす影響を分析している。過去1年間で推論価格は9分の1から900分の1に低下し、中央値で約50分の1の削減となり、多くの認知タスクに十分な知能がほぼ無料で利用できるようになった。これにより、データシステムに関する3つの方向性が生まれる。第一に、エージェントのためのデータシステム:エージェントは大量の作業を実行し、投機的クエリ(エージェント的投機)ではサブクエリの80~90%が冗長であるため、結果の再利用やマルチクエリ最適化などの最適化の機会が生まれる。第二に、エージェントからのデータシステム:数千のエージェントを管理するためのインフラが必要であり、構造化されたメモリ(非構造化のMarkdownファイルではなく)、調整、同時変更の競合解決が求められる。第三に、エージェントが作成するデータシステム:エージェントはデータシステム全体をその場で合成できるが、その正確性を検証する必要がある。著者らは、エージェントのための構造化メモリの概念(モジュール、言語、操作などの属性でメモリを整理)や、複数のエージェントが同時に作業する際の共同編集とライブロックの問題について議論している。
出典: BAIR (Berkeley AI) —
原文
