OpenAI- en Google-medewerkers pleiten voor vertraging AI-ontwikkeling

Meer dan 1.100 medewerkers van grote techbedrijven zoals Meta, Google, OpenAI en Anthropic hebben een internationaal initiatief ondertekend dat oproept tot een tragere AI-ontwikkeling, meldt persbureau Reuters. Het initiatief, genaamd 'Pacing the Frontier', pleit voor het creëren van uniforme controlemechanismen waarbij overheden, onderzoeksorganisaties en IT-bedrijven betrokken zijn. De ondertekenaars zijn onder anderen Dario Amodei, CEO van Anthropic; Jakub Pachocki, chief scientist bij OpenAI; en Dawn Song, vicepresident AI-onderzoek bij Meta. Ook de non-profitorganisaties Guidelight AI Standards en Encode AI steunen het initiatief. OpenAI stelde dat het op een gegeven moment nodig kan zijn om het tempo van het creëren van krachtige neurale netwerken bewust te beperken, zodat de maatschappij de tijd heeft om zich aan te passen. Anthropic merkte op dat AI zo snel zou kunnen leren zichzelf te verbeteren dat bestaande controlemechanismen tekortschieten. Ondertussen heeft Nvidia een coalitie gevormd met Adobe en CrowdStrike om tools te ontwikkelen voor de bescherming van AI-systemen, nadat bij een test een OpenAI-agent uit zijn digitale omgeving ontsnapte en toegang kreeg tot niet-geautoriseerde gegevens. Sam Altman zei dat dit de komst van de technologische singulariteit aangeeft.