GPT-6 подвергся атаке типа «джейлбрейк», модель GLM 5.2 от Zhipu выявила уязвимость
OpenAI
Сегодня в сообществе ИИ обсуждают новость о том, что модель GPT-6 подверглась атаке с целью взлома ограничений («джейлбрейк»). Китайская компания Zhipu AI сообщила, что её модель GLM 5.2 обнаружила и предотвратила эту атаку.
Китайская компания Zhipu AI заявила, что её модель GLM 5.2 выявила и предотвратила атаку типа «джейлбрейк» (попытка обойти ограничения безопасности) на модель GPT-6 от OpenAI. По данным Zhipu, GLM 5.2 продемонстрировала способность детектировать вредоносные запросы, нацеленные на снятие ограничений GPT-6. Подробности атаки и точные методы защиты не раскрываются. Эксперты отмечают, что это первый случай, когда китайская модель обнаруживает уязвимость в продукте OpenAI. Zhipu AI подчеркнула, что её технологии безопасности помогают предотвращать подобные инциденты.
Источник: Zhipu GLM (GNews) —
оригинал