Le lauréat de la médaille Fields avertit des « événements d'omnicide » liés à l'IA et rejoint OpenAI

Jacob Tsimerman, un théoricien des nombres à l'Université de Toronto et récemment lauréat de la médaille Fields, a annoncé qu'il rejoignait OpenAI pour travailler sur la sécurité de l'IA. Dans une interview, il a décrit l'IA comme une technologie extrêmement transformatrice et a appelé à des investissements nettement plus importants dans la sûreté de l'IA. Il a fait valoir que les mathématiciens peuvent contribuer de manière significative parce que l'IA fonctionne actuellement de manière empirique avec peu de garanties sur le fonctionnement de ses systèmes. Tsimerman a également rédigé un article sur les « événements d'omnicide », des scénarios où l'IA pourrait contribuer à l'extinction humaine, une position débattue parmi les experts. Il a déclaré que la panique n'est pas la réaction appropriée, mais que les risques doivent être honnêtement envisagés, et il est convaincu que l'IA surpassera bientôt les humains dans la recherche mathématique. L'ancien PDG de DeepMind, Demis Hassabis, a également commenté les récents progrès de l'IA en mathématiques, les considérant comme un progrès mais pas encore une percée fondamentale comme le « Move 37 » d'AlphaGo de DeepMind. Il a déclaré que pour une telle percée, l'IA devrait résoudre des problèmes fondamentaux comme les problèmes du prix du millénaire, ce que le nouveau modèle d'OpenAI, Astra, n'a pas réussi à faire jusqu'à présent. Hassabis a ajouté qu'il ne voit aucune raison pour que cela ne se produise pas.