中国の主要オープンソース大規模モデルの熱狂の裏にあるセキュリティの露呈：脆弱性再現率76％、高リスク指示への拒否ゼロ－36Kr

36 Krのレポートは、中国を代表するオープンソース大規模モデルにおける重大なセキュリティ問題を浮き彫りにしている。調査により、既知の脆弱性の76%がこれらのモデルで再現可能であり、高リスクな指示に対して拒否反応がゼロであることが判明した。これは、モデルが悪意ある利用に対して非常に脆弱であり、実世界のシナリオで展開された場合に重大なリスクをもたらすことを意味する。これらの発見は、オープンソースAIモデルの開発と展開において、強化されたセキュリティ対策が緊急に必要であることを強調している。