Seis años desarrollando un bot de Telegram: del tokenizador a LLM, RAG y bases de datos vectoriales

El autor desarrolló Io, un bot de Telegram basado en LLM capaz de responder mensajes, reconocer imágenes y mensajes de voz, y mantener el contexto. La primera versión en 2020 usaba un tokenizador personalizado con derivación para ruso, integrando el clima de OpenWeather, detección de ciudades mediante DaData, y traducción y reconocimiento de voz a través de servicios de Yandex. En 2023, el autor experimentó con GPT-3.5 Turbo, pero luego reescribió el bot para usar GPT-4o mini con llamada a herramientas, descartando el tokenizador. En 2025, se implementó por primera vez la memoria usando metadatos JSON, luego se cambió a un enfoque basado en vectores con Qdrant, y finalmente se pasó a pgvector en PostgreSQL. El bot usa Gemini 3.6 Flash como modelo principal y Nex-N2-mini para extracción de hechos y resumen. Características adicionales incluyen modo invitado, búsqueda en Wikipedia y comandos explícitos de memoria. Se introdujo la monetización con límites diarios y suscripciones. La infraestructura evolucionó de Docker Compose a Coolify y luego a k3s, con GitHub Actions para el despliegue. El autor planea mejorar la monitorización, corregir errores del modo invitado e implementar búsqueda web.