Yıllık Yapay Zeka Makalesi: Üç Önde Gelen Modelin Damıtma Karşıtı Mekanizmaları Kırıldı, Küçük Modeller Gizli Akıl Yürütme Zincirlerini Çıkarıyor, Kimi-K3 Tekrarlama Anomalisi
Moonshot AI
Yeni bir akademik makale, dünyanın en iyi üç yapay zeka modelinin damıtma karşıtı mekanizmalarını kırdığını ve küçük modellerin gizli akıl yürütme zincirlerini çıkarabildiğini iddia ediyor. Anomali, Kimi-K3 ile yeniden üretildi.
Yıllık bir yapay zeka raporu, üç önde gelen yapay zeka modelinin model damıtımına karşı savunma mekanizmalarında kapsamlı bir atılım olduğunu bildiriyor. Araştırmacılar, küçük modellerin büyük modellerden gizli düşünce zincirini etkili bir şekilde çıkarabildiğini ve bu tür çıkarımları önlemek için tasarlanan korumaları zayıflattığını gösterdi. Bu olgu, Moonshot AI tarafından geliştirilen Kimi-K3 adlı bir modelde olasılık anomalisi içeren bir şekilde yeniden üretildi. Bu gelişme, gelişmiş yapay zeka sistemlerinin güvenliği ve fikri mülkiyeti konusunda endişeleri artırıyor.
Kaynak: Moonshot Kimi (GNews) —
orijinal