أضفتُ نموذج لغوي كبير إلى دردشة أصدقائي وجعلته يلعب دور المبيد (وفتحت بوابة إلى أكوان متعددة من الجنون)

قرر أحد المطورين إضافة روبوت يعمل بنموذج لغوي كبير إلى مجموعة دردشة على تيليغرام تضم 15 صديقًا، مع توجيهه لتقمص دور المبيد (T-800). يستخدم الروبوت نماذج مجانية من أوبن روتر (في البداية نموذج Nemotron-3-Super-120b للنصوص، ثم نموذج nemotron-nano-12b-v2-vl للرؤية، مع اللجوء إلى نموذج nemotron-3-nano-omni-30b-a3b-reasoning كبديل). لاحقًا، تم نقل الروبوت إلى كمبيوتر محمول محلي يعمل بنموذج Gemma-4-12b عبر أداة llama.cpp للتعامل مع النصوص والوسائط المتعددة في تدفق واحد. يمكن للروبوت الرد على الرسائل، ومضايقة المشاركين، وقراءة الصور والصوت والفيديو، وتلخيص الكتب والقصص المصورة، وإجراء عمليات بحث على الويب، وتصنيف المطالبات الخطيرة باستخدام نهج من مرحلتين (أولاً نموذج التصنيف، ثم النموذج الرئيسي)، والحفاظ على الذاكرة طويلة المدى وقصيرة المدى عبر تقنية توليد الاسترجاع المعزز. تستخدم مرحلة التصنيف الثانية على الرسائل الطويلة (أكثر من 200 حرف) نموذج nemotron-3-nano-30b لرفض المطالبات العبثية أو المثقلة قبل وصولها إلى النموذج الرئيسي. يشير المؤلف إلى أن المشروع ليس جاهزًا للإنتاج ولكنه يعمل كمشروع ترفيهي ممتع.