완벽한 LLM조차 에이전트 시스템을 예측 가능하게 만들지 못하는 이유

이 기사는 제로 할루시네이션 상황에서도 LLM 기반 다중 에이전트 시스템의 예측 불가능성에 대해 살펴봅니다. 저자는 온도 0에서 Qwen Instruct 30B 모델로 실험을 수행합니다. LLM 결정론에 대한 여덟 가지 유사한 질문에 대해 모델은 두 가지 반대 답변을 내놓았지만, 각 개별 질의는 동일하게 재현되었습니다. BAAI/bge-m3 지표로 측정한 질문의 의미적 유사성은 0.30–0.39로, 사용자에게는 실질적으로 구별이 불가능함을 의미합니다. 다음으로 저자는 로지스틱 맵(상태의 비선형 변환)을 사용하여 에이전트 체인의 동작을 시뮬레이션합니다. 의미적 유사성에 해당하는 초기 값으로 시작하면 궤적은 15단계에서 혼란스럽게 갈라지며, 각 단계는 결정론적입니다. 결론: 단일 에이전트의 예측 가능성은 비선형성과 오류 누적으로 인해 구성의 예측 가능성을 보장하지 않습니다. 실용적 권장 사항으로는 순차 체인의 길이 제한, 검증 지점 도입, 병렬 구조 사용, 의미적으로 유사한 입력으로 파이프라인 테스트 등이 포함됩니다.