研究エージェント 🇷🇺 06.08.2026 14:03

MiroFish におけるサイレント障害:AI 社会シミュレーターが純粋な Lorem Ipsum を入力されたときに何が起こるか

DeepSeekDeepSeek AnthropicAnthropic Google/DeepMindGoogle/DeepMind OpenAIOpenAI OpenRouterOpenRouter
オープンソースのマルチエージェント・シミュレーション・スタック MiroFish の研究により、重大な欠陥が明らかになった。Lorem Ipsum のような無意味なテキストを入力すると、パイプラインは静かに失敗し、バックエンドはミリ秒単位でエラーを出すが、ユーザーインターフェースは1時間以上進捗を示さない。この発見は「サイレント障害」と呼ばれ、2つのモデルファミリーで一貫しており、欠陥はモデルの重みではなくパイプラインのアーキテクチャにあることを示唆している。
オープンソースのマルチエージェント社会シミュレーションスタックであるMiroFishに関する調査で、計算社会科学の研究者が「サイレント障害」と名付けられた重大な欠陥を発見した。この研究では、純粋なlorem ipsumなどの欠陥のある入力を、Neo4jを用いた典型的なGraphRAGアーキテクチャ、エージェント層、そしてOpenRouter経由のLLMを使用するMiroFish-Offlineディストリビューションに読み込んだ。DeepSeekとClaude Sonnet 4を使った2回のUI実行では、パイプラインは無意味なテキストからエンティティを正しくゼロ件抽出したが、その後エージェント生成でハングし、「設定生成中」というステータスがそれぞれ30分と70分間進行せず、タイムアウトやエラーも発生しなかった。しかし、バックエンドを直接観察する計測実行では、バックエンドが実際にはミリ秒単位(24〜33ミリ秒)でエージェントステージのエンドポイントで失敗し、「基準に一致するエンティティがありません」といった明確なエラーメッセージを返しており、UIの見かけ上のフリーズと矛盾していた。これは、システムのUI層がバックエンドの障害をユーザーに伝えられないことを示しており、特定のAIモデルに依存しない設計上の欠陥である。3部作の一部であるこの研究は、そのようなパイプラインがナンセンスを検出するのではなく、静かに正常化してしまう箇所を特定することを目的としており、架空の国バルドリアのような不条理な入力に関するさらなる発見は、後のパートで公開される予定である。
出典: Habr — хаб ML — 原文
関連記事 ↓
新着ニュース