Claude löytää kryptografisia heikkouksia HAWK- ja AES-menetelmistä
Anthropic
Anthropicin tutkijat käyttivät Claude Mythos -mallia löytääkseen matemaattisia virheitä HAWK- ja vähennyskierros-AES-menetelmistä, vaikka kummallakaan tuloksella ei ole käytännön vaikutusta. Malli työskenteli 60 tuntia arviolta 100 000 dollarin API-kustannuksilla, ja ihmisen toimenpiteet koostuivat pääasiassa siitä, että sitä rohkaistiin luovuttamasta.
Anthropicin tutkijat käyttivät Claude Mythosia löytääkseen matemaattisia virheitä HAWK-algoritmista ja heikennetystä versiosta AES:stä, kertoo Simon Willisonin blogikirjoitus. Löydöksillä ei ole käytännön vaikutusta nykyisiin järjestelmiin. Malli työskenteli 60 tuntia arviolta 100 000 dollarin API-kustannuksilla, ja keskeisiä ihmisen tekemiä ohjauksia olivat kehotukset olla luovuttamatta ja löytää jotain julkaisemisen arvoista. Työ johti myös uuteen evaluointimittariin nimeltä CryptanalysisBench, joka kehitettiin yhteistyössä ETH Zurichin, Tel Avivin yliopiston ja Haifan yliopiston kanssa.
Lähde: Simon Willison —
Alkuperäinen