Qwen3Guard: 실시간 토큰 안전을 위한 스트리밍 안전장치

알리바바의 큐원(Qwen)이 큐원3 패밀리 최초의 안전 가드레일 모델인 큐원3가드(Qwen3Guard)를 출시했습니다. 이 모델은 큐원3 기반 모델을 바탕으로 구축되었으며, 안전 분류를 위해 미세 조정되었습니다. 위험 수준과 범주별 분류를 통해 프롬프트와 응답에 대한 정밀한 안전 탐지를 제공합니다. 큐원3가드는 영어, 중국어 및 다국어 환경에서 안전 벤치마크 최고 수준의 성능을 달성했습니다. 모델은 두 가지 변형으로 제공됩니다: 오프라인 안전 주석 및 필터링을 위한 생성 모델인 큐원3가드-젠(Qwen3Guard-Gen)과, 응답 생성 중 효율적인 실시간 스트리밍 안전 탐지를 가능하게 하는 큐원3가드-스트림(Qwen3Guard-Stream)입니다. 두 변형 모두 0.6B, 4B, 8B 파라미터의 세 가지 크기로 제공됩니다. 큐원3가드는 트랜스포머 최종 레이어에 경량 분류 헤드를 사용한 실시간 토큰 수준 스트리밍 탐지, 세 가지 수준의 심각도 분류(안전, 안전하지 않음, 논란 가능)를 통한 유연한 안전 정책 지원, 그리고 119개 언어 및 방언 지원을 특징으로 합니다. 모델은 허깅페이스(Hugging Face)와 모델스코프(ModelScope)에서 오픈소스로 공개되었으며, 알리바바 클라우드 AI 가드레일 서비스를 통해서도 이용할 수 있습니다.