Stil falen in MiroFish: wat er gebeurt wanneer een AI-samenlevingssimulator pure Lorem Ipsum krijgt
DeepSeek
Anthropic
Google/DeepMind
OpenAI
OpenRouter
Een studie van het open-source multi-agent simulatieplatform MiroFish onthult een kritieke fout: wanneer het wordt gevoed met onzintekst zoals lorem ipsum, faalt de pijplijn stil, waarbij de backend binnen milliseconden een fout meldt, maar de gebruikersinterface meer dan een uur geen vooruitgang toont. De bevinding, 'Stil falen' genoemd, was consistent over twee modelfamilies en suggereert dat het defect in de pijplijnarchitectuur ligt, niet in de modelgewichten.
Een onderzoek naar de open-source multi-agent simulatiestack MiroFish, uitgevoerd door een onderzoeker op het gebied van computationele sociale wetenschappen, heeft een kritiek defect blootgelegd dat 'stille storing' wordt genoemd. De studie laadde defecte invoer, waaronder pure lorem ipsum, in de MiroFish-Offline distributie, die een typische GraphRAG-architectuur gebruikt met Neo4j, een agentlaag en LLM's via OpenRouter. In twee UI-runs met DeepSeek en Claude Sonnet 4 extraheerde de pipeline correct nul entiteiten uit de onzintekst, maar hing daarna bij het genereren van de agent, met een niet-vorderende status 'Configuratie genereren' gedurende respectievelijk 30 en 70 minuten, zonder timeout of foutmelding. Een geïnstrumenteerde run die de backend rechtstreeks observeerde, onthulde echter dat de backend binnen milliseconden (24-33 ms) daadwerkelijk faalde op de agent-stadiëindpunten, met duidelijke foutmeldingen zoals 'Geen entiteiten gevonden die aan de criteria voldoen', wat in tegenspraak is met de schijnbare bevriezing van de UI. Dit geeft aan dat de UI-laag van het systeem er niet in slaagt om backendfouten aan de gebruiker te communiceren, een ontwerpfout die onafhankelijk is van het specifieke gebruikte AI-model. De studie, onderdeel van een driedelige serie, heeft als doel in kaart te brengen waar dergelijke pipelines onzin stilzwijgend normaliseren in plaats van detecteren, met verdere bevindingen over absurde invoer zoals het fictieve land Valdoria die in latere delen zullen worden gepubliceerd.
Bron: Habr — хаб ML —
origineel
