Reddit Despliega IA para Evaluar el Cumplimiento de las Reglas en las Publicaciones

Reddit ha presentado Rules Hub, una herramienta de moderación que utiliza modelos de lenguaje de gran tamaño (LLMs, por sus siglas en inglés) para evaluar publicaciones y comentarios y comprobar si cumplen con las normas de la comunidad. A diferencia del bot AutoMod existente, que se basa en palabras clave y patrones predefinidos, Rules Hub analiza el contexto de una publicación y lo compara con la intención de las normas específicas de la comunidad. Los moderadores siguen creando las normas y determinando las acciones a tomar ante las infracciones. El sistema puede enviar automáticamente las publicaciones para una revisión adicional, ocultarlas o eliminarlas, y permite a los moderadores probar nuevas normas en publicaciones archivadas y ver registros que explican las decisiones de la inteligencia artificial. Durante los últimos meses, Rules Hub se probó en más de 700 comunidades con moderadores del programa Mod Council Network, y ahora está disponible para nuevos subreddits, con un despliegue más amplio previsto para finales de este año. Reddit admite que el sistema aún no está listo para reemplazar la moderación existente en grandes comunidades, pero planea integrar Rules Hub con otras funciones como Post and Comment Guidance y Safety Filters, con el objetivo de asumir gradualmente las tareas que actualmente maneja AutoMod, mientras que las sanciones finales siguen quedando en manos de los moderadores humanos.