L'IA redéfinit la gestion des incidents, mais les problèmes délicats exigent toujours l'humain

Lors du sommet industriel Incident Fest, Uptime Labs, Chime et Rootly ont discuté du rôle de l'IA dans la gestion des incidents. Ils ont noté que si l'IA peut réduire la charge cognitive, les équipes doivent éviter d'éroder les compétences humaines, la conscience situationnelle et les capacités de prise de décision. La recherche de J. Paul Reed, citée par Uptime Labs, montre que des suggestions précises de l'IA améliorent l'efficacité, mais que des suggestions trompeuses conduisent à de moins bonnes performances humaines que l'absence d'IA. Le panel a introduit le « principe des restes » : à mesure que l'automatisation prend en charge les tâches de routine, les humains ne gèrent que les problèmes non routiniers et ambigus. Cela crée des risques : les incidents restants sont plus difficiles, les compétences humaines peuvent se dégrader faute de pratique, la conscience situationnelle peut diminuer, et un « déficit de responsabilité » peut émerger, où les humains restent responsables mais manquent d'expertise. Le panel a soutenu que les entreprises devraient investir dans la formation, comme les exercices, les simulations et l'ingénierie du chaos. L'étude du NIST de 2026 sur la surveillance des systèmes d'IA déployés a fait écho à ces préoccupations, soulignant le manque de recherche sur les boucles de rétroaction homme-machine et le défi de faire évoluer la surveillance humaine. De plus, le développement assisté par l'IA peut augmenter le volume de changements, ce qui accroît la fréquence des incidents ; ainsi, des pratiques d'ingénierie robustes comme les contrôles de déploiement, l'observabilité et le rollback rapide deviennent plus vitales.