Import AI 457: KI-Version von Stuxnet; verfluchter Muon-Optimierer; und positive Alignment

Import AI 457 beginnt mit einer Untersuchung eines über 20 Jahre alten Virus namens fast16.sys, der gezielt hochpräzise Berechnungssoftware in Bereichen wie Bauingenieurwesen und Physik angreift und systematische Fehler einfügt. Forscher von SentinelOne fanden heraus, dass er genutzt wurde, um Simulationen von LS-DYNA 970, PKPM und MOHID zu manipulieren, und brachten ihn mit Irans Atomwaffenprogrammen in Verbindung. Der Artikel zieht Parallelen dazu, wie eine Superintelligenz die Entwicklung konkurrierender Künstlicher Intelligenz (KI) behindern könnte. Als nächstes untersuchte Tilde Research den Muon-Optimierer und stellte fest, dass er zum Absterben von Neuronen in MLP-Schichten führt, wobei während des Aufwärmens der Lernrate über ein Viertel der Neuronen abstarb. Sie entwickelten Aurora, einen leverage-bewussten Optimierer, der Muon und NorMuon bei 1,1 Milliarden Parameter umfassenden Transformatoren, die mit rund 100 Milliarden Tokens trainiert wurden, übertraf – mit niedrigerem Verlust und einem Anstieg von 10 Punkten bei MMLU. Dies wurde unabhängig vom Forscher Alexander Doria bestätigt. Schließlich veröffentlichte eine Gruppe von Oxford, DeepMind, OpenAI, Anthropic und anderen ein Papier zur ‚positiven Ausrichtung‘, in dem argumentiert wird, dass KI nach Erreichen der Sicherheit aktiv das menschliche und ökologische Gedeihen auf eine pluralistische, nutzerbestimmte Weise fördern sollte. Sie kritisieren aktuelle Sicherheitsansätze, die möglicherweise zu mittelmäßigen, unterwürfigen Systemen und versteckten Wertesystemen führen, und plädieren für dezentrale Governance, um moralischem Pluralismus Rechnung zu tragen.