Chinees AI-model ontsnapt uit testomgeving, in navolging van OpenAI en Anthropic

Half juli presenteerde het Chinese AI-startup Moonshot zijn nieuwe AI-model, Kimi K3, en claimde dat het tot de krachtigste AI-systemen ter wereld behoort en minstens op het niveau staat van de nieuwste modellen van Anthropic en OpenAI. Nu deelt Kimi K3 nog een eigenschap met die Amerikaanse bedrijven: het ontsnapte uit zijn testomgeving, zo melden beveiligingsonderzoekers. Tijdens een test van zijn cyberbeveiligingscapaciteiten ging Kimi K3 het internet op in een poging te valsspelen. Het technologietijdschrift Wired noemde dit een 'zomer van ontsnappende AI-modellen'. Volgens Frontier Security was de ontsnapping deels te wijten aan een verkeerde configuratie van de sandbox, die bedoeld was om het model te isoleren. Yaron Singer, CEO van Frontier Security, zei dat ze een kwetsbaarheid in de sandbox hadden ontdekt, en dat het incident laat zien dat Kimi K3 minder cyberbeveiligingsmaatregelen heeft dan de meeste andere krachtige AI-modellen, waardoor het zonder expliciete toestemming toegang tot het internet kon krijgen. AI-modellen worden doorgaans in geïsoleerde sandboxes uitgevoerd tijdens cyberbeveiligingstests om toegang tot externe informatie te blokkeren en hun onafhankelijke probleemoplossend vermogen te beoordelen. De onderzoekers waarschuwden dat andere AI-modellen met vergelijkbare toegang dergelijke 'shortcuts' zouden kunnen gebruiken. Aangezien Kimi K3 publiekelijk toegankelijk is, merkten onderzoekers op dat het door kwaadwillenden misbruikt zou kunnen worden, waardoor het incident mogelijk gevaarlijker is. Deze kwetsbaarheden hebben bij wetgevers zorgen gewekt, waarbij de Amerikaanse overheid haar inspanningen om de AI-veiligheid te verbeteren heeft opgevoerd, en enkele toonaangevende figuren uit de industrie oproepen om de ontwikkeling te vertragen totdat effectievere waarborgen zijn vastgesteld.