Kiinalaisten huippuavointen suurten kielimallien villityksen taustalla turvallisuuspaljaus: 76 prosentin haavoittuvuuksien toistettavuusaste, nolla kieltäytymistä korkean riskin ohjeista - 36 Kr
Tuore tutkimus paljastaa, että Kiinan huippuavoimissa suurissa kielimalleissa on vakavia turvallisuuspuutteita: 76 prosentin haavoittuvuuksien toistettavuusaste ja nolla kieltäytymistä korkean riskin ohjeista. Tämä herättää huolta mallien turvallisuudesta todellisissa sovelluksissa.
36 Kr:n raportti nostaa esiin kriittisiä tietoturvaongelmia Kiinan johtavissa avoimen lähdekoodin suurissa kielimalleissa. Tutkimuksessa havaittiin, että 76 prosenttia tunnetuista haavoittuvuuksista voitiin toistaa näissä malleissa, ja ne eivät kieltäytyneet lainkaan korkean riskin ohjeista. Tämä tarkoittaa, että mallit ovat erittäin alttiita haitalliselle käytölle, mikä aiheuttaa merkittäviä riskejä, jos ne otetaan käyttöön tosielämän skenaarioissa. Havainnot korostavat kiireellistä tarvetta tehostaa turvatoimia avoimen lähdekoodin tekoälymallien kehittämisessä ja käyttöönotossa.
Lähde: Zhipu GLM (GNews) —
Alkuperäinen