Reddit, 커뮤니티 규칙 준수 여부를 평가하기 위해 AI 배포

Reddit이 커뮤니티 규칙 준수 여부를 평가하기 위해 대규모 언어 모델(LLM)을 사용하는 중재 도구인 Rules Hub를 공개했습니다. 사전 정의된 키워드와 패턴에 의존하는 기존 AutoMod 봇과 달리 Rules Hub는 게시물의 맥락을 평가하고 특정 커뮤니티 규칙의 의도와 대조합니다. 중재자는 여전히 규칙을 만들고 위반 시 취할 조치를 결정합니다. 이 시스템은 게시물을 자동으로 추가 검토, 숨기기 또는 삭제하도록 보낼 수 있으며, 중재자가 보관된 게시물에서 새 규칙을 테스트하고 AI 결정을 설명하는 로그를 볼 수 있게 합니다. 지난 몇 달 동안 Rules Hub는 Mod Council Network 프로그램의 중재자와 함께 700개 이상의 커뮤니티에서 테스트되었으며, 현재 새로운 하위 레딧에서 사용할 수 있으며, 올해 말에는 더 널리 배포될 예정입니다. Reddit은 이 시스템이 아직 대규모 커뮤니티의 기존 중재를 대체할 준비가 되지 않았다고 인정하지만, Rules Hub를 Post and Comment Guidance 및 Safety Filters와 같은 다른 기능과 통합하여 AutoMod가 처리하던 작업을 점차 대체할 계획이며, 최종 제재는 인간 중재자에게 남겨둡니다.