TAKC：AWS におけるエンタープライズ AI のためのタスク認識型知識圧縮、Beyond-RAG アプローチ

AWSは、金融デューデリジェンスや規制順守など、クロスドキュメント推論を必要とするエンタープライズAIタスク向けに、RAGの代替としてTAKC（タスク認識知識圧縮）を発表した。TAKCはLLMを使用して、文書全体の短くタスクに焦点を当てた要約を生成し、複数の圧縮段階（8倍、16倍、32倍、64倍）を備える。クエリ複雑性分析器が質問を適切な段階に振り分ける。AWS上の実装は、取り込みとクエリという2つの分離されたサーバーレスパイプラインを特徴とする。取り込み時には、S3内の文書がLambda関数をトリガーし、Amazon Bedrockを介してデータをチャンク化・圧縮し、結果をElastiCacheとS3に保存する。クエリパスはAPI Gateway、Cognito、Lambdaを使用して圧縮されたコンテキストを取得し、回答を生成する。TAKCは、あまり頻繁に変更されず、複雑な分析クエリを必要とするナレッジベース向けに設計されている。記事には、完全なコンテキストやRAGと比較して、TAKCが入力トークンの使用量を大幅に削減できることを示すコスト比較が含まれている。AWSは、本番環境ではTAKCとRAGの両方を使用することを推奨している。すなわち、RAGはクイックルックアップに、TAKCは分析クエリに使用する。