AI is Reshaping Incident Response, but Tricky Problems Still Need Humans

Tại hội nghị ngành Incident Fest, Uptime Labs, Chime và Rootly đã thảo luận về vai trò của trí tuệ nhân tạo (AI) trong phản ứng sự cố. Họ lưu ý rằng mặc dù AI có thể giảm tải nhận thức, các đội ngũ phải tránh làm suy yếu các kỹ năng con người, nhận thức tình hình và khả năng ra quyết định. Nghiên cứu của J. Paul Reed được Uptime Labs trích dẫn cho thấy các gợi ý chính xác từ AI giúp nâng cao hiệu quả, nhưng những gợi ý sai lệch dẫn đến hiệu suất con người tệ hơn cả khi không sử dụng AI. Nhóm diễn giả đã đưa ra "Nguyên tắc phần còn lại": khi tự động hóa đảm nhiệm các tác vụ thường xuyên, con người chỉ xử lý các vấn đề không thường xuyên, mơ hồ. Điều này tạo ra các rủi ro: các sự cố phần còn lại trở nên phức tạp hơn, kỹ năng con người có thể suy giảm do thiếu thực hành, nhận thức tình hình có thể giảm sút và khoảng cách trách nhiệm có thể xuất hiện - nơi con người vẫn phải chịu trách nhiệm nhưng thiếu chuyên môn. Nhóm diễn giả lập luận rằng các công ty nên đầu tư vào đào tạo như các buổi diễn tập, mô phỏng và kỹ thuật hỗn loạn (chaos engineering). Nghiên cứu năm 2026 của Viện Tiêu chuẩn và Công nghệ Quốc gia Hoa Kỳ (NIST) về giám sát hệ thống AI đã được triển khai cũng bày tỏ những lo ngại này, nhấn mạnh sự thiếu hụt nghiên cứu về các vòng phản hồi giữa con người và máy móc cũng như thách thức trong việc mở rộng giám sát do con người dẫn dắt. Thêm vào đó, phát triển hỗ trợ AI có thể làm tăng khối lượng thay đổi, dẫn đến tần suất sự cố cao hơn; do đó, các thực hành kỹ thuật vững chắc như kiểm soát triển khai, khả năng quan sát (observability) và hoàn tác nhanh trở nên quan trọng hơn.