Altı Yılda Telegram Botu Geliştirmek: Tokenlayıcıdan Yapay Zekâ Dil Modeline, RAG ve Vektör Veritabanlarına

Yazar, mesajlara yanıt verebilen, görüntüleri ve sesli mesajları tanıyabilen ve bağlamı koruyabilen LLM tabanlı bir Telegram botu olan Io'yu geliştirdi. 2020'deki ilk sürüm, Rusça için kök ayırma ile özel bir tokenleştirici kullanıyor, OpenWeather'dan hava durumunu, DaData üzerinden şehir tespitini ve Yandex hizmetleri üzerinden çeviri ve ses tanımayı entegre ediyordu. 2023'te yazar GPT-3.5 Turbo ile denemeler yaptı ancak daha sonra botu tokenleştiriciyi bir kenara bırakarak araç çağırma ile GPT-4o mini kullanacak şekilde yeniden yazdı. 2025'te ilk olarak JSON meta verileri kullanılarak bellek uygulandı, ardından Qdrant ile vektör tabanlı bir yaklaşıma geçildi ve son olarak PostgreSQL üzerinde pgvector'a taşındı. Bot birincil model olarak Gemini 3.6 Flash'ı, gerçek çıkarma ve özetleme için ise Nex-N2-mini'yi kullanıyor. Ek özellikler arasında misafir modu, Wikipedia araması ve açık bellek komutları yer alıyor. Günlük limitler ve aboneliklerle para kazanma özelliği getirildi. Altyapı Docker Compose'dan Coolify'e ve ardından k3s'a evrilirken, dağıtım için GitHub Actions kullanıldı. Yazar, izlemeyi iyileştirmeyi, misafir modu hatalarını düzeltmeyi ve web araması uygulamayı planlıyor.