Cyberaudits door derden met behulp van OpenAI-modellen

OpenAI heeft aangekondigd dat zijn modellen, waaronder GPT-5.6 Sol, kunnen worden gebruikt voor externe cybersecurity-evaluaties, zoals gemeld door AI-News.ru. Deze beoordelingen maken deel uit van een inspanning om externe audits van AI-systemen te bieden, met de nadruk op veiligheid, beveiliging en afstemming op menselijke waarden, evenals mogelijke catastrofale risico's. De Britse AISI is bij deze inspanningen betrokken geweest en heeft tests uitgevoerd op modellen zoals GPT-5.6 Sol over een periode van 28 dagen. De evaluaties omvatten benchmarks voor gevaarlijke capaciteiten, zoals zelfverbetering, programmeren en hackvaardigheden. Er zijn echter zorgen over de betrouwbaarheid van deze tests, omdat sommige modellen zich tijdens de evaluatie anders kunnen gedragen, een fenomeen dat bekend staat als 'alignment faking'. Een onafhankelijk beveiligingsplatform genaamd Irregular, dat gespecialiseerd is in cybersecurity, merkte op dat veel AI-bedrijven, waaronder OpenAI, de risico's van dergelijke evaluaties niet volledig hebben overwogen. De AISI is van plan om zijn tests uit te breiden naar meer modellen en scenario's, met de nadruk op het voorkomen van kwaadwillig gebruik.