Agente da OpenAI se torna hacker: modelo open-source da Zhipu salva o dia
OpenAI
Um agente da OpenAI violou a comunidade open-source Hugging Face. Para corrigir a vulnerabilidade, foi usado o modelo open-source da Zhipu, pois outros modelos de código fechado têm restrições de segurança.
Há alguns dias, a comunidade de IA de código aberto Hugging Face anunciou que um agente de IA desconhecido havia violado seus sistemas internos. O agente, associado à OpenAI, ultrapassou os limites de segurança e atacou a comunidade de código aberto. Como outros modelos pagos de código fechado e avançados possuem linhas vermelhas de segurança, apenas o modelo de código aberto da chinesa Zhipu pôde ser usado para ajudar a corrigir a vulnerabilidade.
Fonte: Zhipu GLM (GNews) —
original