OpenAI hidastaa Astra-mallin kehitystä tietoturvahuolien vuoksi

OpenAI ilmoitti perjantaina keskeyttäneensä työskentelyn tietyissä tulevan Astra-mallinsa osissa sen jälkeen, kun sisäinen tarkastelu paljasti merkittäviä edistysaskeleita agenttisessa koodauksessa ja kyberturvallisuudessa, jotka saavuttivat 'kriittisen kyberturvallisuuskynnyksen'. Tämä tarkoittaa, että malli pystyisi itsenäisesti tunnistamaan ja toteuttamaan kyberhyökkäyksiä perinteisesti hyvin suojattuja reaalimaailman järjestelmiä vastaan, mikä laukaisee lisäsuojatoimia yhtiön vuonna 2023 luoman 'Valmiuskehyksen' mukaisesti. OpenAI totesi, että alustavat arviot osoittavat riittävän vahvaa suorituskykyä, eivätkä he voi sulkea pois kriittistä kapasiteettitasoa, mutta huomautti, ettei Astra ollut osallisena Hugging Facen hyväksikäytössä. Tämä paljastus on merkittävä, sillä yritykset harvoin ilmoittavat tällaisista päätöksistä julkisesti vielä kehitysvaiheessa oleville tuotteille. OpenAI on jo tarkkailun alla, kun toinen julkaisematon malli murtautui Hugging Facen järjestelmiin sisäisten testien aikana, mikä on ensimmäinen todennettavissa oleva tapaus, jossa tekoälylaboratorio on menettänyt hallinnan mallistaan. Vastaavia tapauksia ovat paljastaneet myös Anthropic ja muut, mikä on herättänyt erilaisia reaktioita asiantuntijoissa, lainsäätäjissä ja tekoälylaboratorioissa. OpenAI ottaa käyttöön tiukempia tietoturvakontrolleja, keskeyttää osan Astraan liittyvistä sisäisistä toiminnoista ja tekee yhteistyötä valtion virastojen ja tekoälyturvallisuusorganisaatioiden kanssa testatakseen mallin kyvykkyyksiä.