すべての評価結果がHugging Faceモデルページで利用可能に
Hugging Face
Meta
EvalEval連合が立ち上げたEEE(Every Eval Ever)プロジェクトは、統一JSONスキーマを用いてAI評価レポートを標準化します。Hugging FaceのCommunity Evalsと統合され、モデルページと完全な評価記録の相互リンクが可能になり、31のフォーマットから22万9千以上の結果がすでに収集されています。
2026年2月にEvalEval連合が立ち上げたEEE(Every Eval Ever)プロジェクトは、ファーストパーティおよびサードパーティの評価者にわたるAI評価報告の標準化を目指しています。このプロジェクトは統一JSONスキーマを使用し、評価を実施した者、対象モデル、アクセス方法、生成設定、メトリクス定義、オプションのサンプルごとの出力を記録します。同時期に、Hugging Faceはコミュニティ評価を開始し、ハブ上でのベンチマークスコア報告を分散化しました。これら2つは現在統合されており、コントリビューターはJSONレコードをHugging Faceが期待するYAML形式に変換するコンバーターを介して、EEE結果をHugging Faceコミュニティ評価に送信できます。結果のスコアはモデルページに表示され、完全なEEEレコード(生成設定、ハーネスバージョン、再現性ノートを含む)にリンクするバッジが付与されます。Hugging Face上のEEEデータストアは、31種類の異なる報告形式から得られた、約22,000のモデルと2,200のベンチマークにわたる約229,000件の評価結果にまで成長しました。これらの実行をゼロから再現するには数十万ドルのコストがかかるため、集中型報告の価値が浮き彫りになっています。コンバーターは現在、MMLU-Pro、GPQA、HLE、GSM8Kの4つの公式ベンチマークをサポートしています。ユーザーはEEEレコードをデータストアに送信し、その後コンバーターを実行してYAMLプレビューを生成し、レビュー後にプルリクエストを開くことができます。
出典: Hugging Face blog —
原文
