Reddit setzt KI zur Bewertung von Beiträgen auf Regelkonformität ein

Reddit hat Rules Hub vorgestellt, ein Moderationswerkzeug, das große Sprachmodelle (LLMs) nutzt, um Beiträge und Kommentare auf Einhaltung der Community-Regeln zu prüfen. Im Gegensatz zum bestehenden AutoMod-Bot, der auf vordefinierten Schlüsselwörtern und Mustern basiert, bewertet Rules Hub den Kontext eines Beitrags und gleicht ihn mit der Absicht spezifischer Community-Regeln ab. Die Moderatoren erstellen weiterhin die Regeln und legen die Maßnahmen fest, die bei Verstößen ergriffen werden sollen. Das System kann Beiträge automatisch zur weiteren Überprüfung senden, ausblenden oder löschen und ermöglicht es Moderatoren, neue Regeln an archivierten Beiträgen zu testen und Protokolle einzusehen, die die Entscheidungen der KI erklären. In den letzten Monaten wurde Rules Hub in mehr als 700 Communities mit Moderatoren des Mod Council Network-Programms getestet und ist nun für neue Subreddits verfügbar, mit einer breiteren Einführung später in diesem Jahr. Reddit gibt zu, dass das System noch nicht bereit ist, die bestehende Moderation in großen Communities zu ersetzen, plant jedoch, Rules Hub in andere Funktionen wie Post and Comment Guidance und Safety Filters zu integrieren, um schrittweise Aufgaben zu übernehmen, die derzeit von AutoMod erledigt werden, während endgültige Sanktionen weiterhin bei menschlichen Moderatoren liegen.