Mistral AI julkaisee Shieldstralin: käytäntöihin mukautuva monimuototurvaluokittelija

Shieldstral on Mistral AI:n julkaisema 3B:n avoimen painojen multimodaalinen turvaluokittelija, joka on lisensoitu Apache 2.0 -lisenssillä. Toisin kuin perinteiset suojamallit, jotka sisäänrakentavat kiinteän vahinkoluokkien taksonomian painoihinsa, Shieldstral lähestyy asiaa uudella tavalla: käyttäjät kirjoittavat turvapolitiikan selkokielisenä kysymyksenä päätelmävaiheessa, ja malli palauttaa kalibroidun turvallisuuspisteen. Tämä muotoilu yhdistää kehotteiden luokittelun, vastausten moderointiin, kieltäytymisen havaitsemisen ja toksisuuden tunnistamisen yhdeksi ongelmaksi, ja se toimii sekä tekstille että kuville ilman uudelleenkoulutusta. Malli vastaa tai ylittää avoimien suojamallien suorituskyvyn, jotka ovat jopa 7 kertaa suurempia, tekstin turvallisuudessa, kieltäytymisen havaitsemisessa, politiikan mukautuvuudessa ja multimodaalisissa vertailuissa. Se toimii tehokkaasti yhdellä 16 gigatavun NVIDIAn grafiikkaprosessorilla. Koulutusprosessiin kuului heterogeenisten julkisten turvallisuustietoaineistojen yhdistäminen, erottelukyvyn opettaminen LLM:n tuottamien kontrastiparien avulla, turvallisuuden perustaminen kuviin vision-kieliperusteisella uudelleenjärjestelyllä ja toisiaan täydentävien tarkistuspisteiden yhdistäminen LoRA:n ja SLERP:n avulla. Mistral AI rakensi Shieldstralin alusta loppuun Forge-alustallaan. Yritys jatkaa työtä monikielisen kattavuuden, pidempien dokumenttien kestävyyden ja laajemman multimodaalisen turvallisuuden parissa. Mistral AI on myös yksi Open Secure AI Alliance -allianssin perustajajäsenistä yhdessä NVIDIAn ja muiden organisaatioiden kanssa.