Import AI 457: AI-versio Stuxnetista; kirottu Muon-optimoija; ja positiivinen suuntaus

Import AI 457 -numeron avaus käsittelee yli 20 vuotta vanhaa fast16.sys-nimistä virusta, joka kohdistuu valikoivasti suuren tarkkuuden laskentaohjelmistoihin esimerkiksi rakennustekniikan ja fysiikan aloilla aiheuttaen systemaattisia virheitä. SentinelOne:n tutkijat havaitsivat viruksen käytetyn manipuloimaan simulaatioita LS-DYNA 970-, PKPM- ja MOHID-ohjelmistoissa, ja se on yhdistetty Iranin ydinaseohjelmiin. Artikkeli vetää yhtäläisyyksiä siihen, miten superälykkyys saattaisi haitata kilpailevan tekoälyn kehitystä. Seuraavaksi Tilde Research tutki Muon-optimoijaa ja havaitsi sen aiheuttavan neuronien kuolemaa MLP-kerroksissa; yli neljäsosa neuroneista kuoli oppimisnopeuden lämmittelyvaiheen aikana. He kehittivät Aurora-nimisen vipuvaikutustietoisen optimoijan, joka suoriutui Muonia ja NorMuonia paremmin 1,1 miljardin parametrin transformereilla, joita koulutettiin noin 100 miljardilla tokenilla. Aurora saavutti pienemmän häviön ja 10 pisteen MMLU-parannuksen. Tämän vahvisti itsenäisesti tutkija Alexander Doria. Lopuksi Oxfordin, DeepMindin, OpenAI:n, Anthropicin ja muiden muodostama ryhmä julkaisi artikkelin 'positiivisesta linjauksesta', jossa väitetään, että turvallisuuden saavuttamisen jälkeen tekoälyn tulisi aktiivisesti tukea ihmisten ja ekologian kukoistusta moniarvoisella, käyttäjälähtöisellä tavalla. He kritisoivat nykyisiä turvallisuusmenetelmiä siitä, että ne saattavat johtaa keskinkertaisiin, imarteleviin järjestelmiin ja piilossa oleviin arvojärjestelmiin, ja kannattavat hajautettua hallintoa moraalisen moniarvoisuuden mahdollistamiseksi.