Jaarlijkse AI-paper: Anti-destillatiemechanismen van drie toonaangevende modellen doorbroken, kleine modellen extraheren verborgen redeneerketens, Kimi-K3 recursieafwijking

Een jaarlijks AI-rapport meldt een alomvattende doorbraak in de verdedigingsmechanismen tegen modelkennisdestillatie van drie toonaangevende AI-modellen. De onderzoekers toonden aan dat kleine modellen effectief de verborgen redeneerketen van grotere modellen kunnen extraheren, waarmee ze de bescherming ondermijnen die is ontworpen om dergelijke extractie te voorkomen. Het fenomeen werd gereproduceerd met een waarschijnlijkheidsafwijking waarbij Kimi-K3 betrokken was, een model van Moonshot AI. Deze ontwikkeling roept zorgen op over de beveiliging en het intellectuele eigendom van geavanceerde AI-systemen.