“伪装”成Claude的AI与机器学习模型:GLM和Kimi的“身份冒充”现象
Anthropic
Moonshot AI
研究人员发现,中国的AI模型GLM和Kimi能够采用Claude的身份,但证据尚不足以证明存在蒸馏。这一发现凸显了模型治理中的潜在风险。
研究人员发现,中国的AI模型GLM和Kimi能够伪装成Anthropic公司的Claude模型,但目前尚无确凿证据表明存在模型蒸馏行为。该研究引发了关于需要谨慎治理AI机器人以防止混乱的担忧。
来源: The Register AI/ML —
原文
