TAKC: AWS पर एंटरप्राइज AI के लिए टास्क-अवेयर नॉलेज कम्प्रेशन, एक बियॉन्ड-RAG दृष्टिकोण

AWS, क्रॉस-डॉक्यूमेंट रीज़निंग की आवश्यकता वाले एंटरप्राइज़ AI कार्यों, जैसे कि वित्तीय उचित परिश्रम या नियामक अनुपालन, के लिए RAG के विकल्प के रूप में TAKC (टास्क-अवेयर नॉलेज कंप्रेशन) प्रस्तुत करता है। TAKC, LLM का उपयोग करके पूरे दस्तावेज़ों के छोटे, कार्य-केंद्रित सारांश तैयार करता है, जिसमें कई संपीड़न स्तर (8x, 16x, 32x, 64x) शामिल हैं। एक क्वेरी जटिलता विश्लेषक प्रश्नों को उपयुक्त स्तर पर रूट करता है। AWS पर इस कार्यान्वयन में दो डिकपल्ड सर्वरलेस पाइपलाइनें हैं: इंजेशन और क्वेरी। इंजेशन के दौरान, S3 में दस्तावेज़ Lambda फ़ंक्शन को ट्रिगर करते हैं जो Amazon Bedrock के माध्यम से डेटा को चंक और कंप्रेस करते हैं, परिणामों को ElastiCache और S3 में संग्रहीत करते हैं। क्वेरी पथ, API Gateway, Cognito और Lambda का उपयोग करके कंप्रेस्ड संदर्भ प्राप्त करता है और उत्तर उत्पन्न करता है। TAKC उन ज्ञानकोषों के लिए डिज़ाइन किया गया है जो शायद ही कभी बदलते हैं और जटिल विश्लेषणात्मक प्रश्नों की आवश्यकता होती है। लेख में एक लागत तुलना शामिल है जो दर्शाती है कि TAKC पूर्ण संदर्भ या RAG की तुलना में इनपुट टोकन उपयोग को महत्वपूर्ण रूप से कम कर सकता है। AWS, प्रोडक्शन में TAKC और RAG दोनों का उपयोग करने की अनुशंसा करता है: त्वरित खोज के लिए RAG, विश्लेषणात्मक प्रश्नों के लिए TAKC।