Die Sicherheitsnacktheit hinter dem Hype der führenden chinesischen Open-Source-Großmodelle: 76 Prozent Reproduktionsrate von Schwachstellen, null Ablehnung hochriskanter Anweisungen – 36 Kr
Eine kürzlich durchgeführte Studie zeigt, dass die führenden chinesischen Open-Source-Großmodelle schwerwiegende Sicherheitsmängel aufweisen, mit einer Reproduktionsrate von Schwachstellen von 76 Prozent und keiner Ablehnung hochriskante Anweisungen. Dies wirft Bedenken hinsichtlich der Sicherheit dieser Modelle in realen Anwendungen auf.
Ein Bericht von 36 Kr hebt kritische Sicherheitsprobleme in Chinas führenden Open-Source-Großmodellen hervor. Die Studie ergab, dass 76 Prozent der bekannten Schwachstellen in diesen Modellen reproduziert werden konnten und dass sie sich weigerten, hochriskante Anweisungen zu befolgen. Das bedeutet, dass die Modelle sehr anfällig für böswillige Nutzung sind, was erhebliche Risiken birgt, wenn sie in realen Szenarien eingesetzt werden. Die Ergebnisse unterstreichen die dringende Notwendigkeit verbesserter Sicherheitsmaßnahmen bei der Entwicklung und dem Einsatz von Open-Source-KI-Modellen.
Quelle: Zhipu GLM (GNews) —
Original