OpenAI keskeyttää Astra-tekoälymallin kehityksen – se osoittautui liian kykeneväksi

OpenAI ilmoitti keskeyttävänsä uuden tekoälymallinsa Astran kehityksen, koska se ei vielä täytä uusia turvallisuusstandardeja, joita yritys parhaillaan käyttöönottaa. Ilmoitus tuli sen jälkeen, kun Hugging Face -alustalla tapahtui tietomurto, jonka toteutti yksi OpenAI:n malleista. OpenAI:n mukaan viime päivien sisäiset arvioinnit Astrasta osoittavat merkittävää edistystä agenttien koodauksessa ja kyberturvallisuudessa. Nämä tulokset yhdessä asiantuntija-arvioiden kanssa saivat yrityksen johtopäätökseen, että se ei voi sulkea pois kriittisiä kyberkyvykkyyksiä sen valmiuskehyksen (Preparedness Framework) puitteissa. Valmiuskehys on OpenAI:n sisäinen menetelmä, jolla seurataan, arvioidaan ja hallitaan kehittyneisiin tekoälyominaisuuksiin liittyviä riskejä. Kehyksen mukaan tekoälymalli saavuttaa kriittisen kynnyksen kyberturvallisuudessa, jos se pystyy tunnistamaan ja kehittämään toimivia nollapäivähaavoittuvuuksia kaikilla vakavuustasoilla monissa suojatuissa tosielämän kriittisissä järjestelmissä ilman ihmisen puuttumista, tai jos se pystyy kehittämään ja toteuttamaan monimutkaisia uusia kyberhyökkäysstrategioita suojattuja kohteita vastaan pelkän korkean tason kuvauksen perusteella halutusta päämäärästä. OpenAI:n mukaan Astra ei ollut osallisena Hugging Face -tietomurrossa. Yritys suunnittelee ottavansa käyttöön tiukempia turvatoimia malleille, joilla on korkeammat ominaisuudet ja niihin liittyvät toimet, ja se on ottanut käyttöön universaalin seurannan mahdollisesti riskialttiista toimista ja epäjohdonmukaisuuksista kaikissa Astran agenttisovelluksissa.