The Download: LLM-haavoittuvuus ja geotermisen voimalan elpyminen
Tutkijat ovat paljastaneet perustavanlaatuisen puutteen suurten kielimallien toiminnassa, jonka avulla niiden suojauksen voi kiertää ja saada vaarallista tietoa. New Mexicossa Zanskar-yritys on onnistuneesti elvyttänyt rappeutuvaa geotermistä voimalaa poraamalla uuden kaivon nykyaikaisella teknologialla.
MIT Technology Review -lehdessä kerrotaan, että tutkijaryhmä esitteli johtavassa tekoälykonferenssissa työn, jossa väitetään, että suuria kielimalleja on mahdotonta tehdä täysin turvallisiksi hakkeroinnilta johtuen niiden toiminnan perustavanlaatuisesta puutteesta. Tämä puute liittyy siihen, miten mallit määrittävät ohjeiden lähteen, mikä mahdollistaa hyökkääjille mallien pakottamisen paljastamaan tietoja, jotka ne on opetettu piilottamaan, kuten kokaiinin synteesi tai lentokoneen navigointijärjestelmän sabotaasi. Tutkijat uskovat, että tämä ongelma voi olla ratkaisematon. Toisessa artikkelissa kerrotaan, kuinka pieni yritys Zanskar osti kesäkuussa 2024 geotermisen voimalaitoksen New Mexicossa, joka oli rappeutumassa maanalaisen säiliön jäähtymisen vuoksi. Kahden vuoden kuluttua, uuden kaivon ansiosta, joka löydettiin kehittyneen mallinnuksen ja nykyaikaisten poraustekniikoiden avulla, voimalaitos toimii jälleen täydellä teholla. Tämä osoittaa, että maan alla on piilossa käyttämätöntä potentiaalia tuottaa sähköä ilman päästöjä.
Lähde: MIT Technology Review —
Alkuperäinen