Claude-keskustelut ja artefaktit paljastuivat Google-haun kautta
Anthropic
Reddit-käyttäjät huomasivat, että yksityiset keskustelut ja interaktiiviset minisovellukset Claude AI:stä (Anthropic) indeksoidaan Google-hakukoneessa. Löydösten joukossa oli sairauskertomuksia, yritysasiakirjoja ja lasten henkilötietoja. Anthropic asettaa vastuun käyttäjille, todeten, että linkit näkyvät hakutuloksissa vain, kun ne on julkaistu kolmannen osapuolen verkkosivustoilla.
Viikonloppuna Reddit-käyttäjät huomasivat, että hakukomennot, kuten "site:claude.ai/share", näyttävät satoja julkisia keskusteluja Claude AI:sta, mukaan lukien Artifacts-interaktiiviset minisovellukset. Löydettyjen materiaalien joukossa oli potilastietoja sisältäviä lääketieteellisiä raportteja, kliinisten tutkimusten tuloksia nimillä, asiakirjoja, joissa oli alakouluikäisten lasten nimiä ja puhelinnumeroita, yritysten sisäisiä asiakirjoja ja työntekijöiden palautteita. Ongelma liittyy "share chat"-toimintoon, joka luo linkin keskustelun katselua varten; käyttöliittymä varoittaa, että kuka tahansa linkin haltija voi tarkastella sitä. Anthropic ilmoitti TechCrunchille, että linkit näkyvät haussa vain, jos ne julkaistaan foorumilla tai sosiaalisessa mediassa, eikä niitä indeksoida, jos ne lähetetään yksityisesti. Anthropicin edustaja Amy Rotherham selitti, että yritys ei jaa chat-luetteloita hakukoneille, eivätkä linkit ole arvattavissa. Maanantaihin mennessä ongelma oli korjattu, eikä testihaku tuottanut tuloksia. Fortune-tietojen mukaan yhdessä tapauksessa löytyi keskustelu, jossa oli merkintä "shared by Anthropic", jossa Claude loi erotiikkaa, mikä rikkoo käyttöpolitiikkaa. Google ilmoitti, ettei se valvo, mitkä sivut tulevat julkisiksi, ja tarjoaa sivustoille työkaluja indeksoinnin hallintaan. Viime vuonna Forbes raportoi samankaltaisesta ongelmasta satojen Claude-keskustelujen kanssa, ja 404 Media kertoi mahdollisuudesta poimia noin 100 000 julkista ChatGPT-keskustelua.
Lähde: TechCrunch AI —
Alkuperäinen