Yapay zeka modellerinde 'aşırı düşünme' zafiyeti güvenlik açığı oluşturuyor
DeepSeek
Alibaba/Qwen
OpenAI
Google/DeepMind
Zhejiang Üniversitesi ve Alibaba'dan araştırmacılar, akıl yürüten yapay zeka modellerinde mantıksal olarak tutarsız girdiler kullanarak kasıtlı olarak 'aşırı düşünme' tetiklenebileceğini gösterdi. Bu evrimsel girdi saldırısı, çıktıları 26 kata kadar uzatarak ticari yapay zeka hizmetlerine yönelik bir hizmet reddi saldırısı etkisi yaratabiliyor.
Büyük dil modelleri (LLM'ler), adım adım akıl yürütme kullandıklarında 'aşırı düşünme' adı verilen bir olguya karşı savunmasızdır ve bu durumda aşırı uzun akıl yürütme zincirleri üretirler. Zhejiang Üniversitesi ve Alibaba'dan araştırmacılar, istemlerin (prompt) mantıksal yapısını bozan evrimsel bir algoritma geliştirdi; bu algoritma, modellerin verimsiz akıl yürütme döngülerine girmesine yol açıyor. Saldırı, DeepSeek (R1), Alibaba (Qwen3-Thinking), OpenAI (GPT-o3) ve Google (Gemini 2.5 Flash) modellerine karşı etkili oldu ve bir matematik kıyaslamasında çıktıları 26,1 kata kadar uzattı. Yaklaşım, modellere dahili erişim gerektirmiyor ve modeller arasında aktarılabiliyor, bu da uygulanabilirliğini artırıyor. Ancak araştırmacılar, amaçlarının pratik bir saldırı geliştirmek değil, güvenlik açığını vurgulamak olduğunu ve sağlayıcıların önlemler geliştireceğini umduklarını belirtiyor.
Kaynak: IEEE Spectrum AI —
orijinal