연례 AI 논문: 선도 모델 3개의 안티-증류 메커니즘 무너져, 소형 모델이 숨겨진 추론 사슬 추출, Kimi-K3 재발 이상

연례 인공지능(artificial intelligence, AI) 논문이 주요 AI 모델 세 종을 겨냥한 모델 증류(model distillation) 방어 메커니즘에서 광범위한 돌파구가 마련됐다고 보고했다. 연구진은 소형 모델이 대형 모델의 숨겨진 사고 사슬(chain-of-thought)을 효과적으로 추출할 수 있으며, 이로써 이러한 추출을 막기 위해 설계된 보호 장치가 물렵화될 수 있음을 입증했다. 해당 현상은 Moonshot AI의 모델인 Kimi-K3와 관련된 확률 이상 현상을 통해 재현됐다. 이번 연구 결과는 첨단 AI 시스템의 보안과 지식재산권에 대한 우려를 키우고 있다.