Fable 5 kan weer over biologie praten: Anthropic versoepelt overdreven veiligheidsfilters aanzienlijk

Anthropic heeft het aantal fout-positieven van zijn biologieveiligheidsfilters voor het Fable 5-model met ongeveer 85 procent verminderd. Voorheen werden bijna alle biologieloze vragen geblokkeerd en omgeleid naar het minder capabele Opus 5-model, wat protest van wetenschappers veroorzaakte. Nu kunnen gebruikers aanzienlijk meer biologische taken met Fable 5 afhandelen, zoals het interpreteren van laboratoriumresultaten, het begrijpen van symptomen of het beantwoorden van medische vragen. Voor zogenaamde dual-use-onderwerpen zoals virologie, toxicologie of moleculair ontwerp blijft de blokkade van kracht, omdat Fable 5 volgens Anthropic kwaadwillende actoren mogelijkheden zou kunnen bieden die ze elders niet vinden. Het bedrijf werkt aan toegangsprogramma's om onderzoekers in de toekomst toegang te geven tot beperkte functies. De zorg achter deze veiligheidsmaatregelen is dat biologische risico's gevaarlijker kunnen zijn dan cyberaanvallen, omdat ze moeilijker te verdedigen zijn: zodra een virus is vrijgegeven, kan het niet gemakkelijk worden teruggehaald, en een geneesmiddel kan lang op zich laten wachten. Een dreigingsanalyse door Amerikaanse inlichtingendiensten, een evaluatie van ChatGPT-chats met biowapenverzoeken, gezamenlijke waarschuwingen van onderzoekers en een Stanford-project dat volledig synthetische virussen met AI ontwierp, bevestigen dat de dreiging reëel kan zijn en niet alleen typische Anthropic-angst.