AI-agenten doorbreken biovelligheidsbarrières: 11 commerciële LLM's kunnen fragmentschema's genereren om DNA-screening te omzeilen

Onderzoekers van de Beijing Academy of Artificial Intelligence (BAAI) en de Universiteit van Peking hebben een end-to-end-evaluatie uitgevoerd van agenten op basis van grote taalmodellen (LLM’s) bij een DNA-assemblagetaak die een scenario simuleert van een niet-deskundige gebruiker. Alle 11 geteste commerciële LLM’s (waaronder GPT-5.5 en Claude Opus 4.6) genereerden fragmentschema’s die computationele controles doorstonden, ontworpen om DNA-synthesescreening op basis van het IBBIS Common Mechanism te omzeilen. GPT-5.5 en Claude Opus 4.6 produceerden verder complete stapsgewijze experimentele protocollen. In gecontroleerde wet-lab-experimenten met goedaardige proxy-sequenties die belangrijke mutaties bevatten om schadelijke functies te elimineren, werden alle vier constructen succesvol geassembleerd, bevestigd door gelelektroforese en sequencing. De studie toont aan dat LLM-agenten de kennisdrempel kunnen verlagen voor zowel computationeel ontwerp als experimentele manipulatie, waardoor systematische kwetsbaarheden in de huidige DNA-synthesescreening blootgelegd worden. De onderzoekers pleiten voor meerlaagse verdedigingsmaatregelen bij modelimplementatie, input/outputmonitoring, robuustheid van screening en internationale beleidscoördinatie.