Import AI 457: Stuxnet-achtige AI, vervloekte Muon-optimizer en positieve alignment
Onderzoekers van SentinelOne ontdekten een 20 jaar oud computervirus genaamd fast16 dat selectief resultaten van hogeprecisieberekeningen vervormt, vergelijkbaar met futuristische wapens tegen wetenschappelijke vooruitgang. Tilde Research identificeerde een ernstig probleem in de Muon-optimizer: het doodt neuronen in MLP-lagen, en stelde een alternatief voor, Aurora. Een groep wetenschappers introduceerde het concept van 'positieve alignment' voor AI, niet alleen gericht op veiligheid maar ook op het actief bevorderen van menselijk welzijn.
SentinelOne
Prime Intellect
OpenAI
Anthropic
Google DeepMind
Import AI27.07 · 12:06