スパンからエージェントシナリオへ：トレースにGenAIビューを追加した理由

Proto Observability Platformは、トレース用のGenAIビューを追加し、スパンの単純なツリーからエージェントのロジックを再構築する難しさに対処しました。このビューには4つのモードがあります。操作を時系列順にタイミングとともに表示するフィード、繰り返される操作を折りたたんでエージェントのループを明らかにするステップグラフ、各呼び出しをその固有の引数とステータスとともに表示するコールグラフ、そして可能性のある繰り返されるメッセージ履歴からユーザーの会話を再構築するチャットモードです。開発者はいくつかの実際の問題に直面しました。モデル呼び出しごとに完全な会話履歴が送信され、重複が発生すること、トランスポートスパンを単純に合計するとタイミングが歪む可能性があること、構造化されたツールの結果には操作ステータスが成功に見えてもエラーが含まれる場合があるため、エラーモデルを表示モデルから分離したこと、トークン消費量が累積的または操作ごとの場合があり、集計前にセマンティクスの検出が慎重に行われる必要があることです。この表現は、各モードが回答する質問に関係のない詳細を意図的に隠し、生の属性は検証のために利用可能なままです。