De Beveiligingskwetsbaarheid achter de Hype van Chinese Open-Source Grote Modellen: 76% Reproduceerbaarheid van Kwetsbaarheden, Nul Weigering van Hoogrisico-Instructies - 36 Kr
Een recent onderzoek toont aan dat de top open-source grote modellen in China ernstige beveiligingsfouten hebben, met een reproduceerbaarheidsgraad van kwetsbaarheden van 76% en geen weigering van hoogrisico-instructies. Dit roept zorgen op over de veiligheid van deze modellen in praktische toepassingen.
Een rapport van 36 Kr brengt kritieke beveiligingsproblemen aan het licht in China's toonaangevende open-source taalmodellen. Uit het onderzoek bleek dat 76 procent van de bekende kwetsbaarheden in deze modellen kon worden gereproduceerd, en zij toonden nul weigering tegen zeer risicovolle instructies. Dit betekent dat de modellen zeer vatbaar zijn voor kwaadwillig gebruik, wat aanzienlijke risico's met zich meebrengt als ze in de praktijk worden ingezet. De bevindingen onderstrepen de dringende noodzaak van verbeterde beveiligingsmaatregelen bij de ontwikkeling en implementatie van open-source AI-modellen.
Bron: Zhipu GLM (GNews) —
origineel