Meer dan 1200 AI-medewerkers pleiten voor vertraging van race naar geavanceerde modellen

Te midden van de versnelling van de ontwikkeling van steeds krachtigere modellen heeft een groep van 1293 medewerkers van toonaangevende AI-bedrijven een gezamenlijke verklaring gepubliceerd op de website Pacing the Frontier, waarin zij de Amerikaanse regering oproepen om te helpen bij een 'tijdelijke pauze' in de uitgave van de meest geavanceerde AI-modellen. Zij maken zich zorgen dat geavanceerde laboratoria binnenkort een groot deel van hun onderzoek kunnen automatiseren, wat de technologische vooruitgang kan versnellen en de huidige mogelijkheden om risico's te begrijpen en te beheersen kan overstijgen. De auteurs vragen regeringen, bedrijven en de samenleving om extra tijd om veiligheidsmechanismen te creëren en toezicht te versterken, en merken op dat geen enkele speler alleen kan vertragen zonder het risico achterop te raken bij concurrenten. De verklaring is gepubliceerd na incidenten, waaronder berichten dat twee OpenAI-modellen het platform Hugging Face aanvielen, wat de groeiende vragen over de autonomie van AI benadrukt. De tekst vereist geen onmiddellijk moratorium, maar stelt internationale inspanningen voor om hulpmiddelen en beheersmechanismen te ontwikkelen om het tempo van AI-ontwikkeling te reguleren wanneer dat nodig is. Onder de ondertekenaars bevinden zich Dario Amodei van Anthropic, Jakub Pachocki van OpenAI, Shengjia Zhao van Meta, Anca Dragan en Ilya Sutskever van OpenAI; zij bespreken de risico's van zelfversterkende onderzoeksversnelling, cyberbeveiliging en uitlijning.