AI智能体故障：仪表盘一片绿，智能体却连撒谎数日

AI智能体的故障模式与传统服务不同：它们不会崩溃，而是逐渐降级，这使得标准的正常运行时间和错误率指标毫无意义。智能体在每一步都做出非确定性决策，因此故障发生在推理循环中，而非最终响应。为了实现可观测性，团队必须使用唯一的追踪ID追踪整个推理循环，衡量智能体级指标（如工具选择准确率和目标完成率），使用大语言模型作为评判器对部分响应进行评估，在Git中对提示词进行版本管理，并将遥测数据写入两个目标（例如云提供商和专用工具）以避免供应商锁定。这些实践甚至在专门的智能体可观测性工具成熟之前就至关重要。