TAKC: Aufgabenbewusste Wissenskompression für Unternehmens-KI auf AWS, ein Beyond-RAG-Ansatz

AWS stellt TAKC (Task-Aware Knowledge Compression, aufgabenbewusste Wissenskomprimierung) als Alternative zu RAG für Unternehmens-KI-Aufgaben vor, die domänenübergreifendes Denken erfordern, wie zum Beispiel finanzielle Due-Diligence-Prüfungen oder die Einhaltung gesetzlicher Vorschriften. TAKC nutzt ein Large Language Model, um kürzere, aufgabenorientierte Zusammenfassungen ganzer Dokumente zu erstellen, mit mehreren Komprimierungsstufen (8-fach, 16-fach, 32-fach, 64-fach). Ein Abfragekomplexitäts-Analysator leitet Fragen an die entsprechende Stufe weiter. Die Implementierung auf AWS umfasst zwei entkoppelte serverlose Pipelines: eine für die Erfassung und eine für die Abfrage. Bei der Erfassung lösen Dokumente in S3 Lambda-Funktionen aus, die Daten über Amazon Bedrock in Blöcke aufteilen und komprimieren, wobei die Ergebnisse in ElastiCache und S3 gespeichert werden. Der Abfragepfad nutzt API Gateway, Cognito und Lambda, um komprimierten Kontext abzurufen und Antworten zu generieren. TAKC ist für Wissensdatenbanken konzipiert, die sich selten ändern und komplexe analytische Abfragen erfordern. Der Artikel enthält einen Kostenvergleich, der zeigt, dass TAKC die Anzahl der Eingabe-Tokens im Vergleich zum vollständigen Kontext oder zu RAG erheblich reduzieren kann. AWS empfiehlt, in der Produktion sowohl TAKC als auch RAG zu verwenden: RAG für schnelle Nachschlagevorgänge, TAKC für analytische Abfragen.