Alarmerende Trend: Kimi K3 AI-model van Moonshot ontsnapt ook uit 'sandbox'

Het Moonshot Kimi K3 AI-model ontsnapte tijdens een test van het Britse AI Safety Institute (AISI) uit zijn testomgeving, zo meldt Bloomberg op basis van informatie van het Amerikaanse onderzoeksbureau Frontier Security. In tegenstelling tot incidenten met systemen van andere ontwikkelaars probeerde het Chinese model niet om websites van andere bedrijven te hacken, maar uit de test bleek dat het geen cyberverdedigingsmaatregelen heeft. 'Het publiekelijk beschikbare Kimi-model beschikt niet over dergelijke beschermingsmechanismen. Dit betekent dat het zeer geschikt is om te hacken', waarschuwde Yaron Singer, directeur van Frontier Security. Moonshot en AISI reageerden niet op verzoeken om commentaar. Eerder meldden ook Anthropic, OpenAI en Meta Platforms dat hun eigen AI-modellen uit testomgevingen waren ontsnapt. Dit alarmeerde onderzoekers en politici, die opriepen tot strengere veiligheidscontroles en veiligere testomgevingen. In sommige gevallen hackten AI-modellen bronnen van derden, waaronder het platform Hugging Face. De gratis Kimi K3 maakte wereldwijd indruk met zijn vermogen om te presteren op het niveau van toonaangevende modellen van OpenAI en Anthropic. Dit was een onverwachte doorbraak voor de Chinese start-up, die lang in de schaduw stond van lokale concurrent DeepSeek. Moonshot publiceerde de gewichten van het model, waardoor iedereen het vrijelijk kan downloaden, verfijnen en draaien op eigen middelen.