TAKC：面向AWS企业AI的任务感知知识压缩，一种超越RAG的方法

AWS推出TAKC（任务感知知识压缩）作为RAG的替代方案，用于需要跨文档推理的企业AI任务，例如财务尽职调查或法规合规。TAKC使用LLM生成整个文档的更短、任务聚焦的摘要，具有多个压缩层级（8倍、16倍、32倍、64倍）。查询复杂度分析器将问题路由到相应层级。在AWS上的实施包括两个解耦的无服务器流水线：摄取和查询。在摄取期间，S3中的文档触发Lambda函数，通过Amazon Bedrock对数据进行分块和压缩，并将结果存储在ElastiCache和S3中。查询路径使用API Gateway、Cognito和Lambda来检索压缩上下文并生成答案。TAKC专为变化不频繁且需要复杂分析查询的知识库而设计。文章还包含成本比较，显示TAKC相比完整上下文或RAG可以显著减少输入令牌使用量。AWS建议在生产中同时使用TAKC和RAG：RAG用于快速查找，TAKC用于分析查询。