Fallo Silencioso en MiroFish: Qué Ocurre Cuando un Simulador de Sociedades de IA Recibe Puro Lorem Ipsum
DeepSeek
Anthropic
Google/DeepMind
OpenAI
OpenRouter
Un estudio de la pila de simulación multiagente de código abierto MiroFish revela un defecto crítico: cuando se le alimenta texto sin sentido como lorem ipsum, la tubería falla silenciosamente, con el backend emitiendo error en milisegundos pero la interfaz de usuario sin mostrar progreso durante más de una hora. El hallazgo, denominado 'Fallo Silencioso', fue consistente en dos familias de modelos y sugiere que el defecto reside en la arquitectura de la tubería, no en los pesos del modelo.
Una investigación sobre el stack de simulación de sociedades multiagente de código abierto MiroFish, llevada a cabo por un investigador en ciencia social computacional, descubrió un defecto crítico denominado 'Fallo silencioso'. El estudio cargó entradas defectuosas, incluyendo lorem ipsum puro, en la distribución MiroFish-Offline, que utiliza una arquitectura GraphRAG típica con Neo4j, una capa de agentes y LLMs a través de OpenRouter. En dos ejecuciones de interfaz de usuario con DeepSeek y Claude Sonnet 4, el pipeline extrajo correctamente cero entidades del texto sin sentido, pero luego se quedó colgado en la generación de agentes, mostrando un estado 'Configuración en generación' sin progreso durante 30 y 70 minutos respectivamente, sin tiempo de espera ni error. Sin embargo, una ejecución instrumentada que observaba el backend directamente reveló que el backend en realidad fallaba en milisegundos (24-33 ms) en los endpoints de la etapa de agentes, devolviendo mensajes de error claros como 'No se encontraron entidades que coincidan con los criterios', lo que contradice la aparente congelación de la interfaz de usuario. Esto indica que la capa de interfaz de usuario del sistema no comunica los fallos del backend al usuario, un defecto de diseño independiente del modelo de IA específico utilizado. El estudio, parte de una serie de tres partes, tiene como objetivo mapear dónde estos pipelines normalizan silenciosamente el sinsentido en lugar de detectarlo, con hallazgos adicionales sobre entradas absurdas como el país ficticio Valdoria que se publicarán en partes posteriores.
Fuente: Habr — хаб ML —
original