MLSecOps: verschillende prioriteiten voor verschillende AI-gebruiksscenario's

Generatieve AI is onderdeel geworden van ontwikkeling, zowel gebruikt als codeerassistent (zoals Copilot, Cursor, Claude, ChatGPT) als als ingebed productonderdeel. Deze scenario's hebben verschillende risico's, controlepunten en kosten van fouten. MLSecOps is nodig om beveiliging te integreren in de levenscyclus van AI-systemen, van prompts en code tot datasets, modellen, inferentie-API's, runtimebescherming en productiemonitoring. In het ontwikkelaarstoolscenario omvatten de belangrijkste dreigingen het genereren van onveilige code, lekkage van geheimen, indirecte promptinjectie en nalevingsaudits; controles moeten dicht bij de ontwikkelaar worden geplaatst, waaronder een LLM/AI-firewall, IDE-controles, PR-review en CI/CD als laatste verdedigingslinie. In het productintegratiescenario wordt AI een runtime-aanvalsoppervlak met dreigingen zoals promptinjectie en jailbreaks, modelextractie, compromittering van de ML-toeleveringsketen en aanvallen op AI-agenten. Agenten moeten worden behandeld als beheerders met minimale rechten en sandboxing; het beoordelen van de 'dodelijke drie-eenheid' (toegang tot privégegevens, niet-vertrouwde invoer, extern kanaal) helpt bij het evalueren van risico's. Het artikel benadrukt dat traditionele AppSec-tools deze AI-specifieke kwetsbaarheden missen, dus MLSecOps breidt DevSecOps uit in plaats van het te vervangen.