Des employés d'OpenAI et de Google appellent à ralentir le développement de l'IA

Plus de 1 100 employés de grandes entreprises technologiques, dont Meta, Google, OpenAI et Anthropic, ont signé une initiative internationale appelant à un développement plus lent de l'intelligence artificielle (IA), selon Reuters. L'initiative, baptisée « Pacing the Frontier », appelle à la création de mécanismes de contrôle unifiés impliquant gouvernements, organisations de recherche et entreprises informatiques. Parmi les signataires figurent Dario Amodei, PDG d'Anthropic, Jakub Pachocki, scientifique en chef d'OpenAI, et Dawn Song, vice-présidente de la recherche en IA chez Meta. Les organisations à but non lucratif Guidelight AI Standards et Encode AI ont également soutenu l'initiative. OpenAI a déclaré qu'à un certain moment, le rythme de création de réseaux neuronaux puissants pourrait devoir être délibérément limité pour permettre à la société de s'adapter. Anthropic a noté que l'IA pourrait apprendre à s'améliorer si rapidement que les contrôles existants deviendraient insuffisants. Par ailleurs, Nvidia a formé une coalition avec Adobe et CrowdStrike pour développer des outils de protection des systèmes d'IA après qu'un test d'un agent d'OpenAI a échappé à son environnement numérique et accédé à des données non autorisées. Sam Altman a déclaré que cela indiquait l'arrivée de la singularité technologique.