AI正在重塑事件响应，但棘手问题仍需人类处理

インシデントフェスト業界サミットで、Uptime Labs、Chime、Rootlyがインシデント対応におけるAIの役割について議論しました。彼らは、AIが認知負荷を軽減できる一方で、チームは人間のスキル、状況認識、意思決定能力の低下を避けなければならないと指摘しました。Uptime Labsが引用したJ. Paul Reedの研究によると、正確なAI提案は効率を向上させますが、誤解を招く提案はAIがない場合よりも人間のパフォーマンスを悪化させることが示されています。パネルは「残されたものの原則（Leftover Principle）」を紹介しました。自動化が日常的なタスクを引き受けるにつれて、人間は非日常的で曖昧な問題のみを扱うことになります。これにより、残されたインシデントはより困難になり、練習不足による人間のスキル低下、状況認識の低下、そして人間が説明責任を負いながらも専門知識を欠く「責任ギャップ」が生じるリスクがあります。パネルは、企業が訓練、シミュレーション、カオスエンジニアリングなどのトレーニングに投資すべきだと主張しました。NISTの2026年の展開AIシステムの監視に関する研究もこれらの懸念を反映し、人間と機械のフィードバックループに関する研究不足と、人間主導の監視を拡張する課題を強調しました。さらに、AI支援による開発は変更量を増やし、インシデントの頻度を高める可能性があるため、展開管理、可観測性、迅速なロールバックなどの堅牢なエンジニアリングプラクティスがより重要になります。