友達のチャットにLLMを追加してターミネーターを演じさせた（そして狂騒のマルチバースへの扉を開いた）

ある開発者が、15人の友人がいるTelegramグループチャットにLLM搭載のボットを追加し、ターミネーター（T-800）のロールプレイをするように指示しました。このボットは、OpenRouterの無料モデル（当初はテキスト用にNemotron-3-Super-120b、次にビジョン用にnemotron-nano-12b-v2-vl、フォールバックとしてnemotron-3-nano-omni-30b-a3b-reasoning）を使用しています。その後、ボットはローカルのノートパソコンに移され、llama.cpp上でGemma-4-12bを実行し、テキストとマルチメディアを単一のストリームで処理しています。ボットは、メッセージへの応答、参加者へのからかい、画像/音声/動画の読み取り、書籍/漫画の要約、ウェブ検索の実行、二段階のアプローチ（まず分類モデル、次にメインモデル）による危険なプロンプトの分類、そしてRAGによる長期および短期メモリの維持が可能です。200文字を超える長いメッセージに対する二段階分類は、nemotron-3-nano-30bを使用して、馬鹿げたプロンプトや過負荷なプロンプトをメインモデルに到達する前に拒否します。著者は、このプロジェクトは本番環境対応ではないが、楽しいペットプロジェクトとして機能すると述べています。