AI vastaan AI: Agenttien suoritusaikaturvallisuus, joka vahvistuu jokaisella käyttökerralla
Tencent
Tencentin turvallisuusasiantuntija Duan Haotong jakaa AICon 2026 Shenzhenissä tekoälyagenttien koko ketjun kattavan suoritusaikaturvallisuusratkaisun, jossa tekoälyä käytetään tekoälyä vastaan. Menetelmä kattaa ennakko-, aikana- ja jälkitorjuntatoimenpiteet, mukaan lukien prompt injection -havaitsemisen, aikomusten poikkeamien havaitsemisen, hiekkalaatikkoajon ja tietovuotojen eston, mahdollistaen jatkuvan itsensä kehittämisen tuotantodatan perusteella.
12 vuoden kokemuksella varustettu Tencentin tietoturva-asiantuntija Duan Haotong esiintyy AICon 2026 -konferenssissa Shenzhenissä 21.–22. elokuuta. Hänen puheensa otsikolla 'Using AI to Fight AI: Building an Agent Runtime Security Line that Gets Stronger with Use' käsittelee uusia riskejä, kuten kehotteen injisointia, aikomuksen poikkeamaa, työkalujen väärinkäyttöä ja tietovuotoa, kun agentit siirtyvät yritysten ydinskenaarioihin. Hän argumentoi, että perinteiset sääntöpohjaiset tietoturvaratkaisut eivät toimi semanttisia hyökkäyksiä ja ei-deterministisiä käyttäytymismalleja vastaan. Ehdotettu ratkaisu omaksuu ensiperiaatteisiin perustuvan lähestymistavan tekoälyllä tapahtuvaan tietoturvaan, kattaen ennen tapahtumaa tapahtuvan kehotteen injisoinnin havaitsemisen (avainsana-ajurisesta semanttiseen ymmärrykseen), tapahtuman aikana tapahtuvan aikomuksen poikkeaman havaitsemisen ja agentin hiekkalaatikossa eristetyn työkalujen suorittamisen, sekä tapahtuman jälkeen tapahtuvan tietovuodon eston ulospäin suuntautuvan suojauksen ja pienen mallin hienosäädön avulla. Järjestelmä perustuu iteroivaan palautesilmukkaan, joka käyttää oikeaa tuotantodataa. Konferenssissa on myös kymmenen foorumia tekoälyinfrastruktuurista, päättelytekniikasta, robotiikan AGI:stä ja agenttien tietoturvasta, ja yli 50 asiantuntijaa Tencentistä, Alibabasta, Huaweista, Baidusta ja Ant Groupista.
Lähde: InfoQ 中国 —
Alkuperäinen