Saya menambahkan LLM ke chat teman-teman saya dan membuatnya berperan sebagai Terminator (dan membuka portal menuju kegilaan multiverse)

Seorang pengembang memutuskan untuk menambahkan bot bertenaga LLM ke dalam obrolan grup Telegram yang berisi 15 teman, dengan instruksi untuk berperan sebagai Terminator (T-800). Bot ini menggunakan model gratis dari OpenRouter (awalnya Nemotron-3-Super-120b untuk teks, kemudian nemotron-nano-12b-v2-vl untuk visi, dengan cadangan ke nemotron-3-nano-omni-30b-a3b-reasoning). Belakangan, bot dipindahkan ke laptop lokal dengan Gemma-4-12b yang berjalan di llama.cpp untuk menangani teks dan multimedia dalam satu aliran. Bot dapat merespons pesan, menggoda peserta, membaca gambar/audio/video, merangkum buku/komik, melakukan pencarian web, mengklasifikasikan prompt berbahaya menggunakan pendekatan dua langkah (pertama model pengklasifikasi, lalu model utama), dan memelihara memori jangka panjang dan jangka pendek melalui RAG. Pengklasifikasi dua langkah pada pesan panjang (lebih dari 200 karakter) menggunakan nemotron-3-nano-30b untuk menolak prompt yang tidak masuk akal atau membebani sebelum mencapai model utama. Penulis mencatat bahwa proyek ini belum siap untuk produksi tetapi berfungsi sebagai proyek hewan peliharaan yang menyenangkan.