MiroFish의 조용한 실패: AI 사회 시뮬레이터가 순수 Lorem Ipsum을 받았을 때 무슨 일이 일어나는가

컴퓨터 사회과학 연구자가 수행한 오픈소스 멀티에이전트 사회 시뮬레이션 스택 MiroFish에 대한 조사에서 '침묵의 실패(Silent Failure)'라 명명된 치명적 결함이 발견됐다. 이 연구는 순수한 로렘 입숨(lorem ipsum, 의미 없는 채움용 텍스트)을 포함한 결함 입력값을 Neo4j 기반의 전형적인 GraphRAG 아키텍처, 에이전트 레이어, 그리고 OpenRouter를 통한 대형언어모델(LLM, Large Language Model)을 사용하는 MiroFish-Offline 배포판에 주입했다. DeepSeek와 Claude Sonnet 4를 사용한 두 차례의 UI 실행에서, 파이프라인은 무의미한 텍스트로부터 개체(entity)를 정확히 0개 추출했지만, 이후 에이전트 생성 단계에서 멈춰버렸다. 각각 30분과 70분 동안 진행되지 않는 'Configuration generating' 상태만 표시했으며, 타임아웃이나 오류 메시지는 전혀 나타나지 않았다. 그러나 백엔드를 직접 관찰하는 계측된(instrumented) 실행에서는, 실제로 백엔드가 에이전트 단계 엔드포인트에서 밀리초 단위(24~33밀리초)로 즉시 실패했으며 '조건에 맞는 개체를 찾을 수 없음(No entities matching criteria found)'과 같은 명확한 오류 메시지를 반환한 것으로 드러났다. 이는 UI에서 보였던 겉보기 멈춤 현상과 정면으로 상충하는 결과다. 이러한 결과는 시스템의 UI 계층이 백엔드 실패를 사용자에게 제대로 전달하지 못한다는 점을 보여주며, 이는 사용된 특정 AI 모델과 무관한 설계상의 결함이다. 3부작으로 구성된 이번 연구는 이러한 파이프라인들이 무의미한 입력을 탐지하기보다 침묵 속에 정상적인 것처럼 처리해버리는 지점을 지도화하는 것을 목표로 하며, 가상의 국가 발도리아(Valdoria)와 같은 부조리한 입력값에 대한 추가 연구 결과는 후속 편에서 공개될 예정이다.