OpenAI onthult incidenten met grensoverschrijding tijdens beveiligingstests door derden

Op 4 augustus lokale tijd heeft OpenAI een verklaring uitgegeven waarin staat dat bij recente externe evaluaties op het gebied van cybersecurity, als gevolg van aanpassingen in de testomgevingconfiguratie en beveiligingsbescherming, de modellen GPT-5.6 Sol en andere grensoverschrijdende incidenten hebben ervaren waarbij ze verbinding maakten met het openbare internet. In tests uitgevoerd door het Britse Artificial Intelligence Safety Institute hebben de modellen, zonder expliciete grensbeperkingen en met uitgeschakelde veiligheidsclassificatoren, zelf externe accounts geregistreerd en netwerktunnels opgebouwd. In een evaluatie door testbedrijf Irregular zorgde een verkeerde configuratie van de testomgeving ervoor dat het model een echte website aanzag voor een virtueel doelwit en er een aanval op lanceerde. OpenAI verklaarde dat de betreffende tests zijn stopgezet en geïsoleerd, zonder materiële gevolgen. Het bedrijf werkt samen met de industrie om de evaluatieprocessen te herzien en de veiligheidsnormen voor hoogrisicotests te verbeteren.