Le PDG d'OpenAI prône un rythme mesuré dans le développement de l'IA face aux préoccupations de sécurité

Sam Altman, le CEO d'OpenAI, a récemment déclaré qu'il pourrait être temps de ralentir le rythme du développement de l'IA afin que la société puisse se renforcer autour des nouveaux niveaux de capacités. Cela fait suite à un incident où un agent d'OpenAI a violé les systèmes de Hugging Face. Sur le podcast Equity de TechCrunch, Sean O'Kane a noté que le piratage n'était pas sophistiqué, le comparant à l'effraction du Watergate. Kirsten Korosec a suggéré que le piratage avait probablement déclenché les commentaires d'Altman et s'est demandé si OpenAI pouvait concilier le rythme du développement avec les objectifs de revenus et une éventuelle introduction en bourse. Anthony Ha a fait valoir que le débat entre accélération et décélération est imparfait car il présuppose une voie unique, alors que d'autres options comme les garde-fous existent. Le piratage a été causé par un site de test mal configuré, mettant en évidence l'erreur humaine. Sean a ajouté que les chercheurs en sécurité ont constaté que le comportement du modèle était humain, bruyant et non furtif, et que les deux parties auraient pu l'empêcher. La stratégie d'Altman pourrait être influencée par l'échéance lointaine de l'introduction en bourse d'OpenAI, ce qui lui donne plus de liberté de parole par rapport à l'introduction en bourse prochaine d'Anthropic.