AI正在重塑事件响应，但棘手问题仍需人工处理

在Incident Fest行业峰会上，Uptime Labs、Chime和Rootly就人工智能在事件响应中的作用进行了讨论。他们指出，虽然人工智能可以减轻认知负担，但团队必须避免削弱人类技能、态势感知和决策能力。Uptime Labs引用的J. Paul Reed的研究表明，准确的人工智能建议能提高效率，但误导性的建议会导致人类表现比没有人工智能时更差。小组引入了“剩余原则”：随着自动化承担常规任务，人类只处理非常规、模糊的问题。这带来了风险：剩余事件更加棘手，人类技能可能因缺乏实践而退化，态势感知能力可能下降，并可能出现“责任差距”——即人类仍需负责但缺乏专业知识。小组认为，公司应投资于演练、模拟和混沌工程等培训。美国国家标准与技术研究院（NIST）2026年关于监控已部署人工智能系统的研究也呼应了这些担忧，强调了对人机反馈回路研究不足以及扩展以人为中心的监控所面临的挑战。此外，人工智能辅助开发可能会增加变更量，从而提高事件发生频率；因此，部署控制、可观测性和快速回滚等健壮的工程实践变得更加重要。