Phân tích nguyên nhân gốc rễ bằng AI chuyển từ suy luận mô hình sang kỹ thuật ngữ cảnh

Một số ngày càng nhiều các kỹ sư quan sát (observability engineers) tin rằng khả năng suy luận của các mô hình ngôn ngữ lớn không còn là điểm nghẽn đối với phân tích nguyên nhân gốc (root cause analysis - RCA) được hỗ trợ bởi AI; vấn đề cấp bách hơn là quy trình xử lý quyết định dữ liệu nào được chuyển đến mô hình. Hầu hết các công việc RCA bằng AI rơi vào hai loại: thiết kế dựa trên tác nhân (agent-based) cho phép mô hình có các công cụ để điều tra một cách tự động và thiết kế theo xác định (deterministic) thiết lập trước các mối tương quan giữa các tín hiệu và cung cấp một bối cảnh đã được đóng gói sẵn. Nghiên cứu của Coroot, do kỹ sư Nikolay Sivko dẫn đầu, chia quy trình thành hai nhiệm vụ: suy luận trên dữ liệu được trình bày và "khung thu thập dữ liệu" quyết định dữ liệu nào sẽ đến mô hình. Quy trình của Coroot tương quan các tín hiệu thành các phát hiện và chuyển chúng đến mô hình như một bối cảnh tập trung duy nhất, tránh các vòng lặp tác nhân, cho phép các lỗi được quy cho chính mô hình. Sivko đã xây dựng một kịch bản sử dụng Chaos Mesh NetworkChaos để chèn độ trễ giữa một dịch vụ thư mục và cơ sở dữ liệu Postgres của nó, gây ra các truy vấn chậm và lỗi 502, với các tín hiệu gây hiểu lầm. Anh đã kiểm tra mười một mô hình với cùng một lời nhắc (khoảng 9800 token), yêu cầu mỗi mô hình cung cấp nguyên nhân gốc, chuỗi nhân quả và biện pháp khắc phục ngay lập tức. Các mô hình tiên tiến Claude Opus 4.8, GPT-5.5 và Gemini 3.1 Pro đã vượt qua, xác định thí nghiệm và sự cần thiết phải xóa nó cùng với công việc định kỳ (cron job) của nó. Trong số các mô hình nhỏ hơn, Gemma 4 31B là mô hình tự lưu trữ duy nhất xác định được nguyên nhân gốc, trong khi Qwen3.6 35B và Qwen3 Coder Next lớn hơn đã thất bại. Các phương pháp dựa trên tác nhân có những lợi thế, chẳng hạn như bắt được các tín hiệu bất ngờ, nhưng chúng gặp phải các vấn đề về khả năng gỡ lỗi trong sản xuất, như được thấy trong các trường hợp của ZenML và Incident.io. Nhiều nhà thực hành hiện nay ưa chuộng các quy trình làm việc theo xác định với một bước LLM hẹp do độ tin cậy và chi phí token thấp hơn. Sivko lưu ý rằng một cuộc gọi ngắn đến các mô hình tiên tiến chỉ tốn vài xu vì phân tích tương quan được thực hiện trước cuộc gọi; anh tin rằng phần suy luận "về cơ bản đã được giải quyết" và trọng tâm hiện tại là chuẩn bị bối cảnh đúng và gọn nhẹ. Điều này phù hợp với xu hướng rộng hơn của kỹ thuật bối cảnh (context engineering), khi các hướng dẫn từ Anthropic, LangChain và Mezmo nhấn mạnh tầm quan trọng của một tập bối cảnh tối thiểu, có tín hiệu cao cho suy luận và quan sát dựa trên LLM.