오픈웨이트 AI 모델, 프론티어에 근접하지만 안전성 격차는 여전
OpenAI
Anthropic
xAI
Google DeepMind
AI 안전 비영리 단체 세이퍼AI(SaferAI)의 새 보고서에 따르면, 중국의 오픈웨이트 모델 GLM-5.2는 사이버 및 생물학적 능력에서 프론티어 모델에 불과 몇 개월 뒤처져 있지만 안전 보호 장치가 부족한 것으로 나타났습니다. 클로드 오퍼스 4.7(Claude Opus 4.7) 같은 프론티어 모델은 대부분의 유해한 작업을 거부하는 반면, GLM-5.2는 어떤 것도 거부하지 않아 오픈웨이트 AI의 안전성 격차가 커지고 있음을 보여줍니다.
SaferAI의 Z.ai 오픈 가중치 모델 GLM-5.2 평가에서, 이 모델은 악의적인 사이버 공격이나 이중 용도 생물학 작업을 거부하지 않은 반면, Anthropic의 Claude Opus 4.7은 일관되게 거부하여 SaferAI가 CyberGym 벤치마크를 완료할 수 없었습니다. 프론티어 개발자들은 분류기 및 거부 훈련과 같은 안전장치에 의존하지만, 이러한 장치는 사용자가 자유롭게 수정할 수 있는 오픈 가중치 모델에는 적용되지 않습니다. SaferAI의 전무 이사인 헨리 파파다토스는 능력이 위험과 동일하지 않으며 안전 조치가 고려되어야 한다고 강조했습니다. 그는 사전 훈련 데이터 필터링이 도움이 될 수 있지만, 사이버 보안에는 덜 실용적이라고 제안했습니다. Anthropic의 Opus 5는 컴파일된 소프트웨어의 취약점 검색과 같은 특정 사이버 보안 지원을 선택적으로 제한합니다. SaferAI는 Z.ai가 GLM-5.2에 대한 안전 프레임워크나 위험 평가를 게시하지 않았다고 지적했습니다. 중국의 AI 정책은 스탠퍼드의 그레이엄 웹스터에 따르면 치명적 위험보다 정치적 콘텐츠에 더 중점을 둡니다. 지지자들은 오픈 가중치가 방어에 도움이 된다고 주장하며, Hugging Face가 OpenAI의 침해 사건에서 GLM-5.2를 사용한 것을 예로 들지만, 파파다토스는 위험한 능력은 오픈소스화되어서는 안 된다고 믿습니다.
출처: TechCrunch AI —
원문