Qwen3Guard: Reaaliaikainen token-tason turvallisuus suoratoistossa

Alibaba Qwen on julkaissut Qwen3Guardin, joka on Qwen-perheen ensimmäinen turvamalli (guardrail model) tekoälyjärjestelmien turvallisuuden moderointiin. Malli perustuu Qwen3:een ja tarjoaa riskiluokittelun sekä syötteille (prompts) että vastauksille, ilmoittaen vaaratason ja kategorian. Qwen3Guard on saatavilla kahdessa muunnelmassa: Qwen3Guard-Gen (generatiivinen malli offline-merkintään ja datasettien suodatukseen) ja Qwen3Guard-Stream (erikoistunut versio reaaliaikaiseen turvallisuustunnistukseen suoratoistona). Molemmat tarjotaan koossa 0,6B, 4B ja 8B parametria. Qwen3Guard-Stream käyttää kahta kevyttä luokittelupäätettä (classification heads) transformattorin viimeisellä kerroksella, mikä mahdollistaa turvallisuuden arvioinnin token kerrallaan vastauksen tuottamisen aikana. Käyttöön on otettu kolmitasoinen riskiasteikko: Safe (turvallinen), Unsafe (turvaton) ja Controversial (kiistanalainen) – viimeinen mahdollistaa politiikan tiukkuuden joustavan säätämisen eri skenaarioissa. Malli saavuttaa huipputason tuloksia turvallisuusmittaristoissa (state-of-the-art) englannin, kiinan ja monikielisissä ympäristöissä, tukien 119 kieltä. Lähdekoodit ja painot on julkaistu Hugging Facessa ja ModelScopessa, ja Qwen3Guard-pohjainen pilvipalvelu Alibaba Cloud AI Guardrails on saatavilla.