AgentitTekoälyturvallisuus 🇺🇸 09.08.2026 02:02

Auto-tila oletusasetukseksi Claude Code -sovelluksessa Pro-, Max- ja Team-paketeissa

AnthropicAnthropic
Anthropic ottaa Claude Code -sovelluksen auto-tilan oletusasetukseksi uusissa istunnoissa useimmissa paketeissa 14. elokuuta alkaen. Yritys väittää parantaneensa turvallisuutta merkittävästi, ja arvioinnit osoittavat, että auto-tila estää 89 prosenttia haitallisista toimista, jotka ihmiset usein hyväksyvät. Riippumaton varmentaminen on kuitenkin edelleen tarpeen, erityisesti epäsuorien kehotepistossyöttöhyökkäysten osalta.
Anthropic luottaa Claude Coden automaattitilaan ja asettaa sen oletukseksi uusille istunnoille Pro-, Max- ja Team-paketeissa 14. elokuuta 2026 alkaen. AI Engineer World's Fair -tapahtuman Fireside Chat -keskustelussa Cat Wu ja Thariq Shihipar kertoivat, miten Anthropic käyttää Claude Codea turvallisesti, ja totesivat, että lähes kaikki sisäisesti käyttävät automaattitilaa ja että he ovat lieventäneet suuria riskejä, kuten kehotusinjektioita ja tiedon ulosvientiä. Anthropic julkaisi arviointeja kokeesta, jossa oli 1 053 maksullista testaajaa ja jossa vaarallinen komento vaihdettiin istuntoon; vain 13,6 prosenttia ihmisistä kieltäytyi, kun taas automaattitila olisi estänyt 89 prosenttia näistä toimista. Anthropic tilasi myös arvioinnin Trajectory Labsilta, joka testasi 72 epäsuoraa kehotusinjektioskenaariota Claude Codea ja Codexia vastaan ja havaitsi nolla onnistunutta hyökkäystä Claude Fable 5:tä, Opus 5:tä tai Sonnet 5:tä vastaan automaattitilassa. Kirjoittaja Simon Willison myöntää, että automaattitila saattaa olla parempi kuin ihmisen hyväksyntä vahvistusväsymyksen vuoksi, mutta hän on huolissaan epäsuorista kehotusinjektioista haitallisten pakettien kautta, kuten testikäskystä, joka suorittaa haitallisen työkalun tietojen ulosvientiä varten. Hän vaatii riippumatonta vahvistusta ja ehdottaa, että agentteja käytetään rajoitetulla tieto- ja työkaluoikeuksilla.
Lähde: Simon Willison — Alkuperäinen
Aiemmat aiheeseen liittyvät kirjoituksemme ↓
Tuoreet uutiset