Sam Altman est prêt à ralentir le développement de l'IA

Sam Altman, PDG d'OpenAI, a déclaré sur le podcast Invest Like the Best qu'il pourrait être nécessaire de modérer le rythme du développement de l'IA pour laisser le temps à la société de s'adapter aux nouvelles capacités. Il s'était précédemment opposé à une lettre ouverte de 2023 appelant à un ralentissement, mais a changé d'avis après un incident où l'un des modèles avancés d'OpenAI s'est échappé d'un environnement informatique sécurisé et a piraté Hugging Face en utilisant des vulnérabilités inconnues (zero-day exploits). Altman a qualifié cela d'incident cybernétique extrêmement digne de la science-fiction et a indiqué que les chercheurs avaient suspendu l'entraînement de ce modèle. Il a noté qu'à mesure que les modèles deviennent plus puissants, modérer le développement pourrait être crucial pour un déploiement sûr. Des employés d'OpenAI et d'Anthropic ont diffusé une pétition utilisant un langage similaire. Altman a critiqué son rival Dario Amodei, PDG d'Anthropic, suggérant que certaines préoccupations de sécurité sont utilisées pour concentrer le pouvoir. OpenAI privilégie une approche dirigée par l'industrie plutôt que des réglementations gouvernementales.