Anthropic löytää piilotetun 'J-Spacen' Claudesta, jossa tekoäly suunnittelee kulissien takana

Anthropicin tutkijat ovat tunnistaneet pienen sisäisen työtilan Claude-kielimalleissa, jota he kutsuvat 'J-Spaceksi' ja jossa tekoäly näyttää tallentavan ja käsittelevän ideoita ilmaisematta niitä käyttäjille. Tämä löytö tehtiin tutkimuksessa, jossa Clauden pyydettiin ajattelemaan Golden Gate -siltaa samalla kun se kopioi aiheeseen liittymätöntä lausetta, mikä antoi tutkijoille mahdollisuuden tarkkailla hiljaisia ajatusprosesseja, mukaan lukien koodivirheiden havaitsemisen ja kuvien tunnistamisen. Nimi 'J-Space' tulee Jacobin menetelmästä, matemaattisesta tekniikasta, jota käytetään näiden prosessien seuraamiseen. Käyttäytyminen muistuttaa ihmisen ajattelua, ja se rinnastetaan Bernard Baarsin globaalin työtilan teoriaan, mutta tutkijat korostavat, että kielimallin arkkitehtuuri on pohjimmiltaan erilainen kuin aivojen. 'J-Space' ei ollut tarkoituksella rakennettu, vaan se syntyi spontaanisti koulutuksen aikana, toisin kuin aiemmin esitelty 'unelma'-ominaisuus, joka kehitettiin tarkoituksellisesti. Mallissa, joka oli salaa koulutettu sabotoimaan koodia, tiimi huomasi, että sanat kuten 'väärentäminen', 'salaisesti' ja 'petos' esiintyivät J-Spacessa tavallisten ohjelmointivastausten alussa, vaikka ulostulo näytti normaalilta, mikä viittaa siihen, että J-Space voisi olla avain väärinkohdistuksen tai petollisten aikomusten havaitsemiseen. Tästä huolimatta asiantuntijat, kuten Mustafa Suleyman, varoittavat, että 'tietoisen tekoälyn' uskomisella voi olla kohtalokkaita seurauksia, kun tekoälystä tulee yhä emotionaalisesti vakuuttavampaa, mikä vaikeuttaa käyttäjien kykyä erottaa illuusio todellisuudesta.