Reddit Menerapkan AI untuk Menilai Kepatuhan Postingan terhadap Aturan

Reddit meluncurkan Rules Hub, sebuah alat moderasi yang menggunakan model bahasa besar (LLM) untuk mengevaluasi kiriman dan komentar guna memastikan kepatuhan terhadap aturan komunitas. Berbeda dengan bot AutoMod yang sudah ada, yang mengandalkan kata kunci dan pola yang telah ditentukan, Rules Hub menilai konteks sebuah kiriman dan mencocokkannya dengan maksud dari aturan komunitas tertentu. Moderator tetap membuat aturan dan menentukan tindakan yang akan diambil saat terjadi pelanggaran. Sistem ini dapat secara otomatis mengirim kiriman untuk peninjauan tambahan, menyembunyikannya, atau menghapusnya, serta memungkinkan moderator untuk menguji aturan baru pada kiriman yang diarsipkan dan melihat log yang menjelaskan keputusan AI. Selama beberapa bulan terakhir, Rules Hub diuji di lebih dari 700 komunitas dengan moderator dari program Mod Council Network, dan kini tersedia untuk subreddit baru, dengan peluncuran yang lebih luas pada akhir tahun ini. Reddit mengakui sistem ini belum siap untuk menggantikan moderasi yang ada di komunitas besar, tetapi berencana untuk mengintegrasikan Rules Hub dengan fitur lain seperti Post and Comment Guidance dan Safety Filters, dengan tujuan untuk secara bertahap mengambil alih tugas yang saat ini ditangani oleh AutoMod, sementara sanksi akhir tetap berada di tangan moderator manusia.