汚いデータでアンチ詐欺ボットを構築した方法：検出器、タイピファイア、そして途中の落とし穴

このプロジェクトは、暗号通貨のチャットルームで、公開メッセージを読んだ後にユーザーに直接メッセージを送り、助けを求める詐欺師の問題に対処するものです。ボットは公開された助けのリクエストを検出し、警告と正規のサポートへのリンクで応答します。最初の課題は、ラベル付けされたデータセットなしで分類器を構築することでした。初期の正規表現に基づくデータ収集では、モデルが見慣れない表現に一般化する能力が制限されていました。アクティブラーニングを使用して不確実な例を反復的に追加し、ポジティブセットを830から1176に増やしました。タイポやスラングに対する堅牢性を向上させるために、ほぼ重複したものは保持されました。分類基準は「助けのリクエスト」から「ワクチンに適切」に変更され、単純な質問での誤動作を避けました。変化するデータセットでの交差検証は誤解を招く指標を与えました。245メッセージの凍結されたゴールデンセットは真の改善を明らかにし、再現率は0.50から0.78に上昇しました。実トラフィックでの別のテストでは、閾値に応じて適合率が0.74から0.87に調整可能であることが示されました。タイピファイア（問題タイプ）は、複雑にしすぎないために単純なロジスティック回帰として維持されました。システムは、検出器とRAGの両方に単一の多言語埋め込みモデルを使用します。これはリソースを節約する妥協案ですが、RAGの再現率を制限する可能性があります。アーキテクチャは別のFastAPIサービスとSQLiteで構成され、プロダクションボットからファイヤーアンドフォーゲット方式で呼び出され、安全なテストのためのシャドウモードを備えています。