TAKC: Compresión de Conocimiento Consciente de Tareas para IA Empresarial en AWS, un Enfoque Más Allá de RAG

AWS presenta TAKC (compresión de conocimiento consciente de la tarea) como una alternativa a RAG para tareas de IA empresarial que requieren razonamiento entre documentos, como la diligencia debida financiera o el cumplimiento normativo. TAKC utiliza un LLM para generar resúmenes más cortos y centrados en la tarea de documentos completos, con múltiples niveles de compresión (8x, 16x, 32x, 64x). Un analizador de complejidad de consultas dirige las preguntas al nivel adecuado. La implementación en AWS cuenta con dos pipelines serverless desacoplados: ingestión y consulta. Durante la ingestión, los documentos en S3 activan funciones Lambda que dividen y comprimen los datos a través de Amazon Bedrock, almacenando los resultados en ElastiCache y S3. La ruta de consulta utiliza API Gateway, Cognito y Lambda para recuperar el contexto comprimido y generar respuestas. TAKC está diseñado para bases de conocimiento que cambian con poca frecuencia y requieren consultas analíticas complejas. El artículo incluye una comparación de costos que muestra que TAKC puede reducir significativamente el uso de tokens de entrada en comparación con el contexto completo o RAG. AWS recomienda utilizar tanto TAKC como RAG en producción: RAG para búsquedas rápidas y TAKC para consultas analíticas.