Модели ИИ с открытым весом догоняют передовые, но разрыв в безопасности сохраняется
Новый отчет некоммерческой организации по безопасности ИИ SaferAI показывает, что китайская модель с открытым весом GLM-5.2 отстает от передовых моделей всего на несколько месяцев по кибер- и био-возможностям, но при этом лишена защитных механизмов. В то время как передовые модели, такие как Claude Opus 4.7, отказываются от большинства вредоносных задач, GLM-5.2 не отказался ни от одной, что подчеркивает растущий разрыв в безопасности открытых моделей ИИ.
Оценка SaferAI открытой модели GLM-5.2 от Z.ai показала, что она не отказалась ни от одного задания, связанного с вредоносными кибероперациями или двойным использованием в биологии, в то время как Anthropic's Claude Opus 4.7 отказывался настолько последовательно, что SaferAI не смогла завершить тест CyberGym. Разработчики передовых моделей полагаются на защитные механизмы, такие как
Показать ещё ↓
Источник: TechCrunch AI —
оригинал