Anthropic's Dario Amodei reageert: niet tegen open-weight modellen, maar vreest Chinese AI

Oprichter en CEO van Anthropic, Dario Amodei, reageerde op speculatie in de industrie dat zijn bedrijf het verbieden van open-gewicht Chinese modellen steunt. Hij stelde duidelijk dat Anthropic nooit voor een dergelijk verbod heeft gepleit. Zijn reactie volgde op een open brief van onder andere Nvidia, Meta en Mistral, waarin beleidsmakers worden opgeroepen om geen voortijdige beperkingen op te leggen aan open-gewicht modellen. Amodei beschouwt open-gewicht modellen zonder gevaarlijke mogelijkheden als een publiek goed, maar vreest dat autoritaire regeringen, met name China, krachtigere modellen zouden kunnen bouwen voor militaire superioriteit of onderdrukking. Hij steunt het beperken van China's toegang tot geavanceerde chips, het aanpakken van modeldistillatie (een methode van intellectueel eigendomsdiefstal) en het opzetten van een wereldwijde organisatie voor veiligheidstesten van modellen, waaronder China. Hij gelooft dat beperkte samenwerking om biologische wapens op basis van AI te voorkomen mogelijk is.