Itseään ylläpitävät tekoälyvirukset ja kehityksen tahditus: Tämä viikko tekoälyssä
OpenAI
Anthropic
Google DeepMind
Meta
Tutkijat esittelivät itseään replikoivan tekoälymadon, joka käyttää avoimen painon LLM:iä vaarantaakseen tietokoneita ja ylläpitääkseen itseään, saavuttaen noin 37 prosentin onnistumisprosentin täysissä hyökkäyksissä. Muissa uutisissa Dwarkesh Patel ennustaa, että laskentakustannukset nousevat tekoälyn älykkyyden kasvaessa, yli 1300 tekoälylaboratorion työntekijää allekirjoitti lausunnon, jossa pyydetään Yhdysvaltojen tukea huippuluokan tekoälyn kehityksen tahdittamiseksi, ja uusi tutkimus viittaa siihen, että tekoälyjärjestelmät ovat erinomaisia suunnittelussa mutta puuttuvat luovasta tutkimuskyvystä, ja molemmat varjolla arvioidut paperit hylättiin.
Toronton yliopiston, Vector Instituten, Cambridgen yliopiston ja ServiceNow'n tutkijaryhmä rakensi prototyyppitietokoneviruksen, joka käyttää avoimen painotuksen suuria kielimalleja päättelyn suorittamiseen vaarannetuilla GPU-solmuilla, mikä mahdollistaa sen, että virus voi päätellä ja suorittaa hyökkäyksiä. Matomainen haittaohjelma, joka toimii räätälöidyn hallintajärjestelmän ja päättelygraafin avulla, saavutti noin 80 prosentin onnistumisasteen haavoittuvuuksien havaitsemisessa, 53 prosenttia hyödyntämisessä ja 88 prosenttia itsensä kopioinnissa, mikä tarkoittaa noin 37 prosentin kokonaishyökkäysonnistumista. Tämä korostaa itseään ylläpitävien tekoälypohjaisten kyberuhkien syntyä. Erillisessä kehityksessä Dwarkesh Patel väittää, että kun tekoälyjärjestelmistä tulee älykkäämpiä, laskentatehon hinnat nousevat, koska ne pystyvät hyödyntämään saman määrän laskentaa paremmin, mikä voi johtaa jopa yli 250 000 dollarin vuosivuokraan H100-näytönohjaimelle, vaikka toimitusketjun robotisointi saattaa lopulta laskea kustannuksia. Samaan aikaan yli 1 300 työntekijää suurista tekoälylaboratorioista, mukaan lukien OpenAI, Anthropic, Google DeepMind, Meta ja Safe Superintelligence Inc., allekirjoitti lausunnon, jossa pyydettiin Yhdysvaltain hallitusta tukemaan kansainvälistä pyrkimystä kehittää työkaluja automatisoitujen tekoälykehityssuuntien tietoiseen hidastamiseen, viitaten riskeihin nopeasta kiihtymisestä ihmisen hallinnan ulottumattomiin. Tutkimuksessa Princetonin, Stanfordin ja muiden laitosten yhteistyössä toteutettiin 'varjoevaluaatio', jossa tekoälyjärjestelmät (Claude Opus 4.8 OpenClaw-alustassa) yrittivät vastata julkaisemattomiin tutkimuskysymyksiin NeurIPS 2026 -julkaisuista; molemmat yritykset hylättiin alkuperäisten kirjoittajien toimesta, koska ne puuttuivat uutuusarvo ja kokeellinen suunnittelu oli puutteellista, mikä osoittaa tekoälyjärjestelmien olevan vahvoja insinöörityössä mutta heikkoja luovassa tutkimuksessa. Näiden havaintojen perusteella itsensä iteroivan parantamisen aikataulut saattavat olla pidempiä kuin jotkut odottavat.
Lähde: Import AI —
Alkuperäinen