Anthropicin tekstivesivesimerkit avaavat uuden rintaman tekoälyn tunnistuksessa

Anthropic, tekoälytutkimusyritys, on kehittänyt tekniikan vesileimata sen tekoälymallien tuottaman tekstin, mikä mahdollistaa tekoälyn tuottaman sisällön tunnistamisen. Vesileimat on suunniteltu siten, että ne ovat lukijoille näkymättömiä, mutta erikoisohjelmistot pystyvät havaitsemaan ne, mikä auttaa taistelussa disinformaatiota ja tekoälyn luvatonta käyttöä vastaan. Tämä kehitys tulee, kun huoli tekoälyn tuottaman sisällön leviämisestä ja sen erottamisesta ihmisen kirjoittamasta tekstistä on kasvussa. Anthropicin lähestymistapa edustaa ennakoivaa askelta tekoälyn tunnistamisessa, vaikka yritys myöntääkin, että vesileimat eivät välttämättä ole täysin luotettavia ja ne saatetaan pystyä kiertämään. Ilmoitus on herättänyt keskustelua tällaisten tunnistusmenetelmien tehokkuudesta ja etiikasta tekoälyteollisuudessa.