智能变得免费——接下来怎么办?智能体数据系统,智能体的数据系统,以及由智能体构建的数据系统
OpenAI
Anthropic
AI的成本正在骤降:GPT-4级别的模型输出价格已从每百万token 30美元降至不到1美元,长期来看可能趋近于零。这给数据系统带来了三个新挑战:重新设计以与智能体协同工作(面向智能体的数据系统)、构建管理智能体集群的基础设施(智能体的数据系统),以及由智能体自身合成可靠的数据系统(智能体构建的数据系统)。
加州大学伯克利分校EPIC数据实验室的作者们分析了AI模型推理成本下降的影响。过去一年,推理价格下降了9至900倍,中位数降幅约50倍,这使得足以完成大部分认知任务的智能几乎免费。这催生了数据系统的三个发展方向。首先,面向智能体的数据系统:智能体执行大量工作,包括推测性查询(即智能体推测),其中高达80-90%的子查询是冗余的,这为优化提供了机会——例如结果重用和多查询优化。其次,来自智能体的数据系统:需要基础设施来管理数千个智能体——包括有组织的记忆(结构化的,而非非结构化的Markdown文件)、协调以及并发变更的冲突解决。第三,由智能体创建的数据系统:智能体可以即时合成整个数据系统,但必须验证其正确性。作者们讨论了智能体的结构化记忆概念,即记忆按属性(如模块、语言、操作)组织,以及多个智能体同时工作时的协作编辑和活锁问题。
来源: BAIR (Berkeley AI) —
原文
