KI verändert Incident Response, aber knifflige Probleme brauchen weiterhin Menschen

Beim Branchengipfel Incident Fest haben Uptime Labs, Chime und Rootly über die Rolle von KI im Incident Management diskutiert. Sie stellten fest, dass KI zwar die kognitive Belastung reduzieren kann, Teams jedoch vermeiden müssen, menschliche Fähigkeiten, Situationsbewusstsein und Entscheidungskompetenz zu untergraben. Die von Uptime Labs zitierte Forschung von J. Paul Reed zeigt, dass genaue KI-Vorschläge die Effizienz verbessern, irreführende Vorschläge jedoch zu schlechteren menschlichen Leistungen führen als gar keine KI. Das Panel führte das „Leftover-Prinzip“ ein: Wenn die Automatisierung Routineaufgaben übernimmt, bleiben den Menschen nur noch nicht routinemäßige, mehrdeutige Probleme. Dies schafft Risiken: Restprobleme sind schwieriger, menschliche Fähigkeiten können durch mangelnde Übung verkümmern, das Situationsbewusstsein kann abnehmen und es kann eine „Verantwortungslücke“ entstehen, in der Menschen rechenschaftspflichtig bleiben, aber nicht über das nötige Fachwissen verfügen. Das Panel argumentierte, dass Unternehmen in Schulungen wie Übungen, Simulationen und Chaos Engineering investieren sollten. Die Studie des NIST aus dem Jahr 2026 zur Überwachung eingesetzter KI-Systeme spiegelte diese Bedenken wider und hob die unzureichende Forschung zu Mensch-Maschine-Rückkopplungsschleifen sowie die Herausforderung hervor, menschlich geführte Überwachung zu skalieren. Darüber hinaus könnte KI-gestützte Entwicklung das Änderungsvolumen erhöhen und die Häufigkeit von Incidents steigern; daher werden solide Engineering-Praktiken wie Deployment-Kontrollen, Observability und schnelles Rollback umso wichtiger.