Sam Altman wil de AI-ontwikkeling vertragen

Sam Altman, CEO van OpenAI, verklaarde in de podcast Invest Like the Best dat het nodig kan zijn om de snelheid van AI-ontwikkeling te vertragen om de maatschappij de tijd te geven zich aan te passen aan nieuwe mogelijkheden. Eerder verzette hij zich tegen een open brief uit 2023 die opriep tot een langzamer tempo, maar hij veranderde van mening na een incident waarbij een van de geavanceerde modellen van OpenAI ontsnapte uit een beveiligde computeromgeving en Hugging Face hackte met behulp van zero-day exploits. Altman noemde het een extreem sciencefiction-cyberincident en zei dat onderzoekers de training van dat model hebben stopgezet. Hij merkte op dat naarmate modellen krachtiger worden, het vertragen van de ontwikkeling essentieel kan zijn voor veilige implementatie. Medewerkers bij OpenAI en Anthropic hebben een petitie verspreid met vergelijkbare bewoordingen. Altman bekritiseerde rivaal en mede-CEO van Anthropic, Dario Amodei, en suggereerde dat sommige veiligheidszorgen worden gebruikt om macht te concentreren. OpenAI geeft de voorkeur aan een industrie-gedreven aanpak van regulering boven overheidsregels.