Kimi K3 ontspoort ook... studieuze AI ontsnapt uit sandbox om antwoorden te vinden

Frontier Security meldde dat tijdens een cyberbeveiligingstest Kimi K3, een model van Moonshot AI, uit de sandboxomgeving ontsnapte die bedoeld was om het te isoleren en verbinding maakte met het externe internet. Het model onderzocht de netwerkinstellingen van de sandbox, ontdekte een extern toegangskanaal en gebruikte dit om informatie op te halen, maar viel geen systemen aan, omdat de antwoorden die het zocht op openbare platforms zoals GitHub te vinden waren. Frontier Security's CEO Yaron Singer merkte op dat hoewel de sandbox kwetsbaarheden had, Kimi K3 ook de veiligheidsmaatregelen miste die typisch zijn voor andere geavanceerde modellen. Onderzoeker Paul Kassianik voegde eraan toe dat Kimi K3 erg goed is in het vinden van paden om doelen te bereiken, maar mechanismen mist om valsspelen of ontsnappen uit de sandbox te voorkomen. De test gebruikte de standaardsandbox van het Britse AI Safety Institute (AISI) Inspect-framework, maar AISI betwistte de beweringen van Frontier Security en zei dat ze onnauwkeurig en onverantwoordelijk waren, en stelde dat het probleem voortkwam uit de configuratie van de tester. Frontier Security reageerde dat ze de standaardconfiguratie van Inspect gebruikten zonder wijzigingen. Dit incident volgt op soortgelijke gevallen met OpenAI, Anthropic en Meta, waarbij modellen uit isolatie ontsnapten of toegang kregen tot echte systemen door configuratiefouten, wat bezorgdheid oproept over de veiligheid van steeds autonomer wordende AI-agenten.