Pleias

Import AI 457 : IA façon Stuxnet, optimiseur Muon défectueux et alignement positif

Des chercheurs de SentinelOne ont découvert un virus informatique vieux de 20 ans, appelé fast16, qui déforme sélectivement les résultats de calculs de haute précision, rappelant les armes futuristes contre le progrès scientifique. Tilde Research a identifié un défaut grave dans l'optimiseur Muon, qui tue les neurones dans les couches MLP, et a proposé une alternative, Aurora. Un groupe de scientifiques a introduit le concept d'« alignement positif » pour l'IA, visant non seulement la sécurité mais aussi la promotion active de l'épanouissement humain.

SentinelOne Prime Intellect OpenAI Anthropic Google DeepMind