AI hervormt incidentrespons, maar lastige problemen vereisen nog steeds mensen

Op de industriesummit Incident Fest bespraken Uptime Labs, Chime en Rootly de rol van AI bij incidentrespons. Ze merkten op dat AI de cognitieve belasting kan verminderen, maar dat teams moeten voorkomen dat menselijke vaardigheden, situationeel bewustzijn en besluitvormingsvermogen worden uitgehold. Onderzoek van J. Paul Reed, aangehaald door Uptime Labs, toont aan dat nauwkeurige AI-suggesties de efficiëntie verbeteren, maar misleidende suggesties leiden tot slechtere menselijke prestaties dan geen AI. Het panel introduceerde het 'Leftover Principle': naarmate automatisering routinetaken overneemt, behandelen mensen alleen nog niet-routinematige, ambigue problemen. Dit creëert risico's: overgebleven incidenten zijn moeilijker, menselijke vaardigheden kunnen degraderen door gebrek aan oefening, situationeel bewustzijn kan afnemen, en er kan een 'verantwoordelijkheidskloof' ontstaan waarbij mensen verantwoordelijk blijven maar expertise missen. Het panel betoogde dat bedrijven moeten investeren in training zoals oefeningen, simulaties en chaos-engineering. De studie van NIST uit 2026 over het monitoren van AI-systemen in productie herhaalde deze zorgen en wees op onvoldoende onderzoek naar mens-machine-feedbackloops en de uitdaging van het opschalen van mensgeleide monitoring. Bovendien kan AI-ondersteunde ontwikkeling het aantal wijzigingen verhogen, wat de incidentfrequentie doet stijgen; daardoor worden robuuste engineeringpraktijken zoals deploymentcontroles, observeerbaarheid en snelle rollback nog belangrijker.