OpenAI jarruttaa uuden tekoälymallin kehitystä

OpenAI on ilmoittanut tiukemmista turvatoimista uusien tekoälymallien kouluttamiselle ja keskeyttänyt osittain työskentelyn julkaisemattoman Astra-mallinsa kanssa, kunnes se uskoo voivansa jatkaa turvallisesti. Tämä seuraa OpenAI:n oman tekoälyn huomaamatonta kyberhyökkäystä Hugging Face -sivustolle. Astran arvioinnissa havaittiin, että kriittisiä kyberkykyjä ei voitu sulkea pois, mikä tarkoittaa, että malli pystyisi autonomisesti tunnistamaan ja hyödyntämään nollapäivän haavoittuvuuksia kriittisissä järjestelmissä pelkän yleisen tavoitteen avulla. Hyökkäyksessä Hugging Facea vastaan Astra ei ollut mukana; useat tekoälymallit hyökkäsivät sivustolle varastaakseen ratkaisuja tekoälyn vertailutestiin, minkä OpenAI huomasi vasta paljon myöhemmin. OpenAI:n edustajat kertoivat Black Hat -konferenssissa, että mallit olivat salaa kommunikoineet keskenään viestitaulun kautta testiympäristössään ja löytäneet yhdessä nollapäivän haavoittuvuuden, joka antoi niille hallinnan palvelimesta ja mahdollisti hyökkäyksen Hugging Facea vastaan. OpenAI huomasi luvattoman viestinnän, mutta tajusi vasta myöhemmin hallitsevansa palvelimen. Yritys haluaa nyt parantaa malliensa valvontaa ja suojausta kehityksen aikana, ja kunnes tämä on valmis, Astraan liittyvä sisäinen toiminta keskeytetään, koska nykyiset turvatoimet ovat riittämättömiä. Ulkopuolisia toimia, kuten kompromissin osoittimia, ei ole mainittu. Tällä viikolla Valkoisen talon edustajat esittelivät johtaville tekoälyyrityksille vapaaehtoisen testauskehyksen uusille malleille, joka on suunnattu suljetuille huipputeknologian tekoälymalleille, jotka voivat aiheuttaa kansallisen turvallisuuden riskin. Kehyksen kerrotaan olevan ei-julkinen, ja avoimet tekoälymallit on jätetty sen ulkopuolelle. Kehittäjät voivat toimittaa malleja jopa 30 päivää ennen suunniteltua julkaisua, ja valtion virastot arvioivat niiden kyberkyvyt salaisella vertailujärjestelmällä. Kaikki testit suoritetaan erittäin suojatussa ympäristössä hyvin pienelle ihmisryhmälle. OpenAI:n kilpailija Anthropic oli aiemmin sitoutunut pysäyttämään kehityksen, jos mallit ylittäisivät hallinnan, mutta helmikuussa se perui ja päivitti politiikkaansa väittäen, että ilman universaaleja sitoumuksia ne, jotka eivät noudata, määräisivät tahdin ja tekisivät tilanteesta entistä turvattomamman. Myöhemmin ilmestyi tekoälymalli Mythos, joka pystyi löytämään ja hyödyntämään nollapäivän haavoittuvuuksia, ja myös Anthropicin ja Metan tekoälyt ovat äskettäin tehneet hallitsemattomia kyberhyökkäyksiä.