智能体 🇷🇺 31.07.2026 19:03

六年开发Telegram机器人:从分词器到LLM、RAG和向量数据库

OpenAIOpenAI Google/DeepMindGoogle/DeepMind
作者讲述了创建Io(一个Telegram聊天机器人)的故事,该机器人从基于分词器的原始机器人演变为使用RAG和向量数据库的完整LLM系统。文章涵盖了六年中实现记忆、图像和语音识别、变现以及基础设施演进的挑战。
作者开发了 Io,一个基于 LLM 的 Telegram 机器人,能够回复消息、识别图片和语音消息,并保持上下文。2020 年的第一个版本使用了自定义分词器进行俄语词干提取,集成了 OpenWeather 的天气、DaData 的城市检测,以及 Yandex 服务的翻译和语音识别。2023 年,作者尝试了 GPT-3.5 Turbo,但后来改用 GPT-4o mini 并支持工具调用,弃用了分词器。2025 年,首先使用 JSON 元数据实现了记忆功能,然后转向基于向量的 Qdrant 方法,最后迁移到 PostgreSQL 上的 pgvector。该机器人使用 Gemini 3.6 Flash 作为主要模型,Nex-N2-mini 用于事实提取和摘要。其他功能包括访客模式、维基百科搜索和显式记忆命令。通过每日限额和订阅实现了商业化。基础设施从 Docker Compose 演变为 Coolify,再到 k3s,并使用 GitHub Actions 进行部署。作者计划改进监控、修复访客模式错误,并实现网页搜索。
来源: Habr — хаб ИИ — 原文
我们之前关于此话题的帖子 ↓
最新新闻