AI-modellen vatbaar voor 'overdenken' creëert beveiligingslek
DeepSeek
Alibaba/Qwen
OpenAI
Google/DeepMind
Onderzoekers van de Zhejiang Universiteit en Alibaba hebben een methode gedemonstreerd om 'overdenken' in redenerende AI-modellen opzettelijk te veroorzaken door ze bloot te stellen aan logisch inconsistente prompts. Deze evolutionaire promptaanval kan outputs tot 26 keer langer maken, wat effectief fungeert als een denial-of-service aanval op commerciële AI-diensten.
Grote taalmodellen (Large Language Models, LLM's) die stapsgewijze redeneringen gebruiken, zijn kwetsbaar voor een fenomeen dat 'overthinking' wordt genoemd, waarbij ze extreem lange redeneerstromen produceren. Onderzoekers van de Zhejiang Universiteit en Alibaba hebben een evolutionair algoritme ontwikkeld dat de logische structuur van prompts aantast, waardoor modellen in vruchteloze redeneerlussen terechtkomen. De aanval was effectief tegen modellen van DeepSeek (R1), Alibaba (Qwen3-Thinking), OpenAI (GPT-o3) en Google (Gemini 2.5 Flash), en genereerde outputs die op een wiskundebenchmark tot 26,1 keer langer waren. De aanpak vereist geen interne toegang tot de modellen en kan tussen modellen worden overgedragen, wat de haalbaarheid vergroot. De onderzoekers benadrukken echter dat hun doel is om de kwetsbaarheid te benadrukken, niet om een praktische aanval te ontwikkelen, en hopen dat aanbieders maatregelen zullen ontwikkelen.
Bron: IEEE Spectrum AI —
origineel