Reddit déploie l'IA pour évaluer la conformité des publications aux règles

Reddit a dévoilé Rules Hub, un outil de modération qui utilise de grands modèles de langage (LLM) pour évaluer les publications et les commentaires afin de vérifier leur conformité avec les règles de la communauté. Contrairement au bot AutoMod existant, qui repose sur des mots-clés et des schémas prédéfinis, Rules Hub évalue le contexte d'une publication et le compare à l'intention des règles communautaires spécifiques. Les modérateurs créent toujours les règles et déterminent les actions à prendre en cas de violation. Le système peut automatiquement envoyer des publications pour un examen supplémentaire, les masquer ou les supprimer, et permet aux modérateurs de tester de nouvelles règles sur des publications archivées et de consulter des journaux expliquant les décisions de l'IA. Au cours des derniers mois, Rules Hub a été testé dans plus de 700 communautés avec des modérateurs du programme Mod Council Network, et est désormais disponible pour les nouveaux subreddits, avec un déploiement plus large prévu plus tard cette année. Reddit admet que le système n'est pas encore prêt à remplacer la modération existante dans les grandes communautés, mais prévoit d'intégrer Rules Hub à d'autres fonctionnalités telles que les conseils pour les publications et les commentaires et les filtres de sécurité, dans le but de reprendre progressivement les tâches actuellement gérées par AutoMod, tandis que les sanctions finales restent entre les mains des modérateurs humains.