Fable 5 voi taas keskustella biologiasta: Anthropic löysää merkittävästi yli-innokkaita turvasuodattimia

Anthropic on vähentänyt Fable 5 -mallinsa biologiaan liittyvien turvasuodattimien vääriä hälytyksiä noin 85 prosenttia. Aikaisemmin lähes kaikki biologiaan liittyvät kyselyt estettiin ja ohjattiin vähemmän kykenevään Opus 5 -malliin, mikä herätti tutkijoiden protestin. Nyt käyttäjät voivat käsitellä Fable 5:llä huomattavasti enemmän biologian tehtäviä, kuten tulkita laboratoriotuloksia, ymmärtää oireita tai vastata lääketieteellisiin kysymyksiin. Niin sanotuissa kaksoiskäyttöaiheissa, kuten virologiassa, toksikologiassa tai molekyylisuunnittelussa, esto säilyy, koska Anthropic väittää, että Fable 5 voisi tarjota pahantahtoisille toimijoille kykyjä, joita he eivät löydä muualta. Yritys työskentelee pääsyohjelmien parissa, jotta tutkijat voisivat tulevaisuudessa saada pääsyn rajoitettuihin toimintoihin. Näiden turvatoimien taustalla on huoli siitä, että biologiset riskit voisivat olla vaarallisempia kuin kyberhyökkäykset, koska niitä on vaikeampi torjua: kun virus on vapautettu, sitä ei voi helposti ottaa takaisin, ja parannuskeino voi kestää kauan. Yhdysvaltain tiedustelupalvelujen uhka-analyysi, arvio ChatGPT-keskusteluista, joissa on bioterrorismipyyntöjä, tutkijoiden yhteinen varoitus ja Stanfordin projekti, joka suunnitteli täysin synteettisiä viruksia tekoälyn avulla, vahvistavat, että uhka voi olla todellinen eikä pelkkää tyypillistä Anthropicin pelottelua.