Import AI 457: Stuxnet-tyyppinen tekoäly, kirottu Muon-optimointi ja positiivinen linjaus
SentinelOne-tutkijat löysivät 20 vuotta vanhan fast16-nimisen tietokoneviruksen, joka valikoivasti vääristää tarkkojen laskelmien tuloksia, samankaltainen kuin tieteellistä kehitystä vastaan suunnatut futuristiset aseet. Tilde Research tunnisti vakavan puutteen Muon-optimoijassa – se tappaa neuroneja MLP-kerroksissa – ja ehdotti vaihtoehtoa, Auroraa. Tutkijaryhmä esitteli tekoälyn 'positiivisen linjauksen' käsitteen, jonka tavoitteena on paitsi turvallisuus myös aktiivinen ihmisen hyvinvoinnin edistäminen.
SentinelOne
Prime Intellect
OpenAI
Anthropic
Google DeepMind
Import AI27.07 · 12:06