중국 최고 오픈소스 대형 모델 열풍 이면의 보안 취약성: 취약점 재현율 76%, 고위험 지시에 대한 거부율 0% - 36Kr
최근 연구에 따르면 중국의 최고 오픈소스 대형 모델들은 심각한 보안 결함을 가지고 있으며, 취약점 재현율이 76%에 달하고 고위험 지시에 대한 거부가 전혀 없는 것으로 나타났습니다. 이는 실제 응용 프로그램에서 이러한 모델들의 안전성에 대한 우려를 제기합니다.
36 Kr(36커)의 한 보고서는 중국을 대표하는 오픈소스 대형 모델들에서 나타난 심각한 보안 문제를 조명했다. 이 연구에 따르면 알려진 취약점의 76%가 해당 모델들에서 재현 가능했으며, 고위험 지시에 대한 거부율은 0%(제로)에 그친 것으로 나타났다. 이는 해당 모델들이 악의적인 용도로 매우 쉽게 악용될 수 있음을 의미하며, 실제 환경에 배포될 경우 상당한 위험을 초래할 수 있다는 것을 보여준다. 이번 조사 결과는 오픈소스 인공지능(AI) 모델의 개발 및 배포 과정에서 보안 강화 조치가 시급히 필요하다는 점을 다시 한번 부각시킨다.
출처: Zhipu GLM (GNews) —
원문