Reddit zet AI in om berichten op regelconformiteit te beoordelen

Reddit heeft Rules Hub onthuld, een moderatietool die grote taalmodellen (LLM's) gebruikt om berichten en reacties te beoordelen op naleving van communityregels. In tegenstelling tot de bestaande AutoMod-bot, die vertrouwt op vooraf gedefinieerde trefwoorden en patronen, beoordeelt Rules Hub de context van een bericht en vergelijkt dit met de bedoeling van specifieke communityregels. Moderators blijven de regels opstellen en bepalen welke acties worden ondernomen bij overtredingen. Het systeem kan berichten automatisch ter verdere controle verzenden, verbergen of verwijderen, en stelt moderators in staat nieuwe regels te testen op gearchiveerde berichten en logs te bekijken die de AI-beslissingen toelichten. De afgelopen maanden is Rules Hub getest in meer dan 700 communities met moderators uit het Mod Council Network-programma, en is nu beschikbaar voor nieuwe subreddits, met een bredere uitrol later dit jaar. Reddit geeft toe dat het systeem nog niet klaar is om bestaande moderatie in grote communities te vervangen, maar is van plan Rules Hub te integreren met andere functies zoals Post and Comment Guidance en Safety Filters, met als doel geleidelijk taken over te nemen die momenteel door AutoMod worden uitgevoerd, terwijl definitieve sancties bij menselijke moderators blijven.