SentinelOne

Import AI 457: Stuxnet como IA, optimizador Muon maldito y alineación positiva

Investigadores de SentinelOne descubrieron un virus informático de 20 años llamado fast16 que distorsiona selectivamente los resultados de cálculos de alta precisión, similar a armas futuristas contra el progreso científico. Tilde Research identificó un fallo grave en el optimizador Muon: mata neuronas en capas MLP, y propuso una alternativa, Aurora. Un grupo de científicos introdujo el concepto de 'alineación positiva' para la IA, buscando no solo seguridad sino también promover activamente el florecimiento humano.

SentinelOne Prime Intellect OpenAI Anthropic Google DeepMind