本文へスキップ
mcpd
デーモンなし
ソース

実行を探す

調査はダッシュボードではなく苦情から始まります。このページでは、苦情を、それを引き起こした 1 つの実行に変える方法を説明します。

ラベルではなくペイロードを検索

たいていのトレーシングツールは、名前と属性をインデックスに入れます。mcpd はプロンプトと 補完もインデックスに入れます。人が苦情を言うのはモデルが言った内容についてであり、その 人が引用してくる言葉が、こちらにある唯一の手がかりだからです。q パラメーターがそのインデックスです。

Search
shipped on Tuesdayscore_below=0.5min_duration_ms=5000model=gpt-4o AND status=error
  • 3 hits the run whose completion said it
  • 12 hits every answer a scorer marked down
  • 7 hits runs slower than five seconds
  • 2 hits failures on one model

q が正確に対象とするもの

インデックスはスパンごとに 3 つのフィールドを持ちます。名前、入力、出力です。入力と出力は JSON なので、インデックスに入れる前に mcpd はペイロードをたどり、文字列と数値だけを 残して、波括弧、引用符、キーを捨てます。生の JSON をインデックスに入れると、記号が すべてトークンになり、本当に探している語が埋もれてしまいます。

これに頼る前に知っておく価値のある帰結が 6 つあります。

  • 実行が一致するのは、その中のいずれか 1 つのスパンが一致した ときです。返ってくるのは実行の単位なので、どのステップだったかを見るには 1 つ開いてください。
  • 語は AND で結ばれます。q=refund delayed は、インデックス済みのテキストの どこかに両方を含むスパンを見つけます。隣り合っている必要はありません。
  • 一致は単語単位で、大文字と小文字は区別せず、ダイアクリティカルマークは 畳まれるので、resume は résumé を見つけます。 ステミングはありません。refund は refunds を 見つけません。
  • 入力と出力それぞれの先頭 64 KiB がインデックスに入ります。それより長いペイロードも 全体が保存され表示されます。インデックスに入らないのは、とても長いプロンプトの末尾 だけです。
  • 秘匿化は保存の前に走るので、秘匿化が取り除いたものはインデックスにも入って いません。 マスキングと保持の ページを参照してください。
  • 二度以上書かれたスパンは、インデックスの行を置き換えます。長く続くスパンは 終了時にそうなります。ですから検索は、常に現在の版を反映します。

引用符が紛れ込んでも、エラーではなく検索です

下にあるインデックスには独自のクエリ言語があります。二重引用符はフレーズを開き、 NEAR、OR、* は演算子です。入力された テキストをそのまま渡すと、引用符を含む顧客のメッセージは結果ではなく構文 エラーとして返ってきます。例外を投げうる検索欄は、人が使うのをやめる 検索欄です。

そこで、あなたのテキストがそのパーサーに届くことはありません。mcpd は入力された ものを空白で分け、各語から二重引用符を取り除き、各語をリテラルの語として包み、 AND でつなぎます。q=say "no" は say と no という 語を検索します。q=NEAR は NEAR という語を検索します。入力できる ものの中に構文エラーになるものはなく、演算子は使えません。これがトレードオフ であり、意図してこの向きに決めてあります。

空白だけの q は、何にも一致しないのではなく無視されます。空の q= は、指定されなかったものとして扱われます。どのパラメーターも 同じ振る舞いをするので、空のフィルター欄を送信するフォームが、うっかり空文字列 で絞り込むことはありません。

実行一覧の絞り込み

GET /v1/api/traces は次のものを受け取ります。省いたものは適用され ません。

パラメーター選ぶもの
q 各スパンの名前、入力、出力に対する全文検索。
status unset、ok、error、 cancelled のいずれか。実行が error になるのは、 その中のいずれかのスパンが失敗したときで、エラーが捕捉された場合も 含みます。
kind 実行のルートスパンの種類。agent_run や workflow_run などです。
name ルートスパンの名前と完全に一致するもの。前方一致でもパターンでもありません。
tags カンマ区切り。実行は、挙げられたタグのすべてを持つ必要があり ます。いずれかではありません。
session_id1 つの会話に属するすべての実行。
thread_id1 つのスレッドに属するすべての実行。
user_id1 人のエンドユーザーのすべての実行。
environment1 つの環境。production など。
model このモデル id に対するスパンを少なくとも 1 つ持つ実行。
from、to 期間。実行の開始時刻を基準に比べます。
min_duration_ms 少なくともこれだけ遅い実行。ミリ秒で指定します。
min_cost 少なくともこれだけかかった実行。値付けされたスパンを持たない実行はゼロ として数えるので、正の値を指定すると除外されます。
has_score このスコアラー id のスコアを持つ実行。
score_below has_score と併せて使い、そのスコアラーがこの値を下回る評価を付けた実行を返します。
sort start_time、duration、cost、 span_count、score のいずれか。既定は start_time です。score は、どのスコアラーが 付けたものであれ最も低いスコアで実行を並べるので、昇順にすると最悪の 実行が先頭に来ます。スコアのない実行はゼロとして順位づけされます。
order asc か desc。既定は desc です。
limit ページの大きさ。1 以上 500 以下に丸められます。既定は 50 です。
cursor 前のページから返された不透明なカーソル。
project どのプロジェクトを読むか。既定はデーモン自身の既定プロジェクトなので、 プロジェクトが 1 つだけのデプロイでは渡す必要がありません。

name、相関の各 id、environment は等値の判定で、 だからこそ安価です。名前の部分一致がほしいときは q を使って ください。スパン名もテキストのインデックスに入っています。

一覧の 1 行にかかるコスト

もっと軽い 2 つ目の実行一覧はありません。最初のものがすでに軽いからです。保存 されるトレースの射影は、入力も出力も属性も一切持ちません。名前、件数、時刻、 コスト、タグ、相関だけで、モデルが言ったことは何も入りません。ペイロードを 取ってくるのは、実行を開いたときです。

現実的な実行 1 つで測った結果です。3 つのポリシー文書を取得し、2 つのツールを呼び、 本物のプロンプトと補完で 2 回モデルを呼ぶ、8 ステップのサポートエージェントの 場合、一覧の 1 行は 577 バイト、実行全体は 10,717 バイトで、94.6% の削減です。これは このデーモンで、その実行について、実際の HTTP 面を通して測ったものです。 あなたの実行では違う数字になります。大事なのは向きです。プロンプトが大きく なるほど節約は大きくなります。大きくなる部分こそ、一覧が持たない部分だから です。

この数字は、ここに打ち込まれたものではなくテストが生み出します。ですから、 片方だけが古くなって、もう片方が失敗しないということは起こりません。 cargo test -p mcpd-server --test payload_size -- --nocapture を 実行すると、両方のバイト数を出力します。ペイロードを運ぶフィールドを射影に 足すと、そのテストが失敗します。

それ以外は、名指しで拒否されます

上の表が語彙のすべてです。そこにないパラメーターは、受け付けて捨てられるのでは なく、それを名指しした 400 で拒否されます。これは変更されました。以前の mcpd は 知らないパラメーターを無視していたので、?statuss=error は プロジェクトのすべての実行とともに 200 で返り、フィルターが適用されなかったこと は応答のどこにも書かれていませんでした。もっともらしい間違った答えはエラーより 悪いものです。気づくきっかけが何もないからです。

この判断が引き受けたトレードオフは、はっきり言っておく価値があります。新しい デーモンが理解するフィルターを送るクライアントは、古いデーモンに対しては、広すぎる結果 ではなく 400 を受け取ります。2 つの失敗のうちでは、こちらのほうが良いものです。 400 はパラメーターを名指しして止まります。

拒否のなかには「不明」以上のことを言うものもあります。mcpd はすべてのトレースに service_name、service_version、 resource_id、run_id、request_id、 experiment_id、release を記録しますが、実行の一覧は まだそれらで絞り込めません。7 つのうち ディスカバリのファセットに なっているのは service_name だけなので、ディスカバリが値を一覧 できるのはそれだけです。この 7 つは、その旨を伝えるメッセージとともに拒否 されます。service_name=checkout-api は打ち間違いではなく、これを 不明なパラメーターだと伝えると、ありもしない綴りの間違いを探しに行かせて しまうからです。

この規則は実行の一覧だけのものではありません。GET /v1/api/spans、 /v1/api/logs、/v1/api/scores、 /v1/api/metrics、/v1/api/feedback は、それぞれ自分の 語彙を同じやり方で強制します。出会う前に知っておく価値があるものが 2 つ あります。スコアの一覧は order を受け取りません。新しい順で固定 されており、そのカーソルは一方向にしか比較しないからです。そしてフィードバックの 一覧は trace_id を必須にします。mcpd はまだプロジェクト全体の フィードバックを一覧できず、空の一覧は「1 件もない」と読めてしまうからです。

フィルター欄の埋め方

フィルターは、そこに何を入れればよいか分かって初めて使えます。そして値は決まった 一覧ではありません。プロジェクトに報告しているサービスが送ってくるものが、 そのまま値になります。GET /v1/api/discovery がそれに答えます。 facet で一度に 1 つの軸を尋ねると、その軸がプロジェクトで取った値を、 値の順に、それぞれ最後にシグナルがその値を運んだ時刻とともに返します。

ファセット一覧するもの
entity_kindエージェント、ワークフロー、ツール、モデル、スコアラー、プロセッサー、パイプライン、サービスのいずれか。
entity_nameそれらが持つ名前。呼ばれたツールの名前などです。
service_name報告してきたサービス。
environment観測された環境。production など。
tagいずれかの実行が持つすべてのタグ。
metric_name記録されたメトリクス名。mcpd が導出するものも含みます。
metric_label_keyプロジェクトで観測されたすべてのラベルキー。
metric_label_valueあるラベルが取る値。key が必要です。

prefix はタイプアヘッドのために一覧を絞ります。一致は文字どおりで 大文字と小文字を区別します。これらの値はフィルターが照合される相手であり、ここで 畳んでしまうと、何にも一致しない値を提示することになるからです。 limit は応答を 1000 件で頭打ちにします。値は新しさではなく値の順に 並ぶので、誰かが読んでいる一覧が、ポーリングのたびに目の前で並び替わることは ありません。

これを前提に作り込む前に、知っておく価値のある制限が 1 つあります。 metric_label_key が一覧するのは、プロジェクトのどこかで観測された すべてのラベルキーであって、名前を指定した 1 つのメトリクスのキーではありません。 一意な値の一覧は、それを運んだメトリクスではなく、ラベルを鍵にしています。

もう一度実行せずに一覧を更新

GET /v1/api/deltas は、あるカーソル以降に届いたものを古い順に 返します。対象は traces、spans、logs です。 前回のポーリングのカーソルを保持して送り返し、すでに手元にある一覧に行を適用して ください。

ポーリングはページ送りではなく、2 つのカーソルは意図的に交換できません。ページ 送りは、選んだ並び順で固定された結果集合を後ろへたどります。ポーリングは到着順に 前へ進み、終わりがありません。ウォーターマークは行の到着時刻とその id の組です。 バッチは中のすべての行を 1 つのタイムスタンプで書くので、「このナノ秒より後」と しか言えないウォーターマークでは、バッチ全体を再生するか、残りを飛ばすかの どちらかになってしまうからです。何もなかったポーリングはカーソルをそのまま 返します。前に進めてしまうと、少しあとに、より早い到着時刻で着地する行を落として しまうからです。

スコアとフィードバックはポーリングできません。これらは呼び出し側が送った タイムスタンプで印が付けられ、サーバーが設定する到着時刻を持たないので、 ウォーターマークを当てると、遅れて届いた行を飛ばすか、すべての行を永遠に繰り返す かのどちらかになります。signal=scores は、空のページで答えるのでは なく拒否されます。

このデプロイで何ができるか

mcpd はストレージのトレイトを 1 つ持ち、その裏に 3 つのバックエンドがあります。 そしてそれらは同等ではありません。ClickHouse では、削除は受け付けられた後、 呼び出しが返ってから適用されます。そのため応答の件数は一致したものを示し、 ディスクから消えたものを示すわけではありません。SQLite と Postgres では、 呼び出しが返った時点で行は消えています。こうした違いが書いてあるのが GET /v1/api/capabilities です。デーモンの裏にあるのはどの バックエンドか、q が何に一致するか、ASCII の外側でも大文字小文字が 畳まれるか、呼び出しが返った時点で削除がディスクに反映されているか、そして ディスカバリとデルタポーリングがそもそも答えるかどうかが分かります。

接続時に一度読み、そのデプロイが答えるものだけを提示してください。ケイパビリ ティが偽であるエンドポイントは 501 で拒否し、その本文の capability フィールドは、ケイパビリティ一覧が公開しているのと同じ 語を名指しします。したがって両者が食い違うことはなく、拒否に出会った クライアントは、決して変わらないものをリトライするのではなく、それを調べられ ます。

今日出荷されている 3 つのバックエンドは、ディスカバリもデルタポーリングも 答えます。ですから下の 501 は、あとから追加されたバックエンドが拒否するときの 形であって、SQLite、Postgres、ClickHouse から返ってくる応答ではありません。 どれであるかを教えてくれるのがケイパビリティ一覧で、今でも読む価値があります。 3 つは、呼び出しが返った時点で削除がディスクに反映されているかどうかと、 保持期間の強制のしかたで違うからです。ASCII の外側の大文字小文字は、3 つとも 畳みます。

何で絞り込めるか

# フィルター欄のための、このプロジェクトが報告したすべての環境。
curl -s --get http://localhost:4317/v1/api/discovery \
  --data-urlencode 'project=default' \
  --data-urlencode 'facet=environment'

# タイプアヘッド。"check" で始まるサービス名。
curl -s --get http://localhost:4317/v1/api/discovery \
  --data-urlencode 'facet=service_name' \
  --data-urlencode 'prefix=check'

# あるメトリクスラベルが取る値。
curl -s --get http://localhost:4317/v1/api/discovery \
  --data-urlencode 'facet=metric_label_value' \
  --data-urlencode 'key=model'

期間

from と to は、RFC 3339 のタイムスタンプか、相対の 短縮形を受け取ります。短縮形はマイナス記号、数字、そして s、 m、h、d のいずれかです。 -15m、-1h、-7d はどれも使えます。この短縮形が あるのは、直近 1 時間を見るために ISO のタイムスタンプを手で打つ手間は、誰も 払うべきではないからです。

from は含み、to は含みません。どちらも実行が 始まった時刻と比べます。期間より前に始まり、期間の中でもまだ動いて いた長い実行は返りません。09:00 に動いていた何かを探しているなら、 from を狭めるのではなく、後ろへ広げてください。

タイムスタンプでも期間でもない値は、無視されるのではなく名指しで拒否されます。 どの一覧エンドポイントのどのパラメーターもこの形で失敗します。黙って捨てられた フィルターは、もっともらしい間違った答えを返し、もっともらしい間違った答えは エラーより悪いからです。

from=yesterday

{
  "error": "bad_parameter",
  "field": "from",
  "message": "\"yesterday\" is not an RFC 3339 timestamp or a relative duration like -1h"
}

悪い回答を見つけるクエリ

has_score=answer_relevance&score_below=0.5 は、そのスコアラーが 0.5 を下回る評価を付けたすべての実行を返します。苦情が失敗ではなく品質について のものであるときに使うのはこれです。悪い回答は、たいてい成功した実行だから です。

has_score だけを指定すると、そのスコアラーが見たすべての実行が 返ります。score_below だけを指定しても何も起きません。スコアラーの 付いていないしきい値には意味がなく、mcpd はどのスコアラーのことか推測しなければ ならなくなります。mcpd は推測しません。それらの値がどこから来るのかは スコアとフィードバックが 扱います。

実行ではなくステップを検索

GET /v1/api/spans は、すべての実行を横断して個々のステップを一度に 検索します。セッションではなくステップについての問い、つまりどのツール呼び出しが 遅いか、あるモデルへの呼び出しのどれがエラーになったか、情報の取得にどれだけかかるか、 といった問いに使ってください。

受け取るのは q、kind、status、 name、model、trace_id、 from、to、min_duration_ms、 sort、order、limit、 cursor で、意味も既定値も同じです。ここには tags、 session_id、user_id のフィルターはありません。それらは 実行に属するものだからで、3 つとも受け付けて捨てられるのではなく名指しで拒否 されます。

sort が取る値は、実行の一覧より少なくなります。 start_time、duration、cost だけで、ほかは ありません。スパンはスパン数もスコアの集計も持たないので、 span_count と score には並べる対象がなく、無視される のではなく名指しで拒否されます。

実行に対する model は、いずれかのスパンがそれを使ったかを尋ねます。 スパンに対する model は、そのスパン自身のモデルです。同じ語で、 問いは 2 つです。

検索

# 直近 1 日のうち、スパン名、プロンプト、補完のどこかに両方の語を含む、
# 失敗した実行。
curl -s --get http://localhost:4317/v1/api/traces \
  --data-urlencode 'q=Leeds depot' \
  --data-urlencode 'status=error' \
  --data-urlencode 'from=-24h'

# すべての実行を一度に横断して、あるモデルを呼び出して失敗したステップ。
curl -s --get http://localhost:4317/v1/api/spans \
  --data-urlencode 'model=gpt-4o-mini' \
  --data-urlencode 'status=error' \
  --data-urlencode 'min_duration_ms=2000'

ページ送りと、カーソルが不透明である理由

一覧は最大で limit 件の行と、1 つの page オブジェクトを 返します。続きがあるときは page.next_cursor が入り、 page.has_more が同じことを真偽値で言います。

ページ送りはオフセットではなくキーセット方式です。カーソルは最後に渡された行を 指し、次のページはその直後から始まります。オフセットのページ送りではずれて いきます。トレースは絶えず届くので、50 件目から 99 件目を求めるころには足元で 範囲が動いており、ある実行を二度読み、別の実行は一度も現れません。調査では、 取りこぼした実行こそが探していた実行です。

カーソルは、並び替えの値と行の id を 16 進で符号化した組で、意味のないものとして 扱ってください。不透明にしてあるのは、すべての呼び出し側を壊さずに符号化を 変えられるようにするためと、中の値が並び順ごとに別の量だからです。 start_time と duration ではナノ秒、 cost では倍率をかけた整数、span_count では単なる件数、 score ではその実行の最も低いスコアです。

これには規則が 1 つ付きます。カーソルは、それを生んだのと同じフィルター、 同じ sort、同じ order と一緒に送り返してください。 mcpd はそうしたかどうかを検査しません。違う並び順で使い回されたカーソルは、 間違った列と比較して行を飛ばします。編集されたり切り詰められたりしたカーソルは、 invalid_query と malformed cursor という メッセージで拒否されます。

総件数はありません。page.total は、一致件数を安価に数えられる バックエンドのために予約されており、組み込みの SQLite ストアは埋めません。 数字を目指して数えるのではなく、has_more でループしてください。

ページ送り

# 1 ページ目は page.next_cursor でカーソルを返します。
curl -s --get http://localhost:4317/v1/api/traces \
  --data-urlencode 'q=refund' \
  --data-urlencode 'sort=cost' \
  --data-urlencode 'limit=100'

# 次のページ。同じフィルター、同じ並び順に、カーソルを足します。
curl -s --get http://localhost:4317/v1/api/traces \
  --data-urlencode 'q=refund' \
  --data-urlencode 'sort=cost' \
  --data-urlencode 'limit=100' \
  --data-urlencode 'cursor=MzEzNzQyfDBhZjM...'

実行が見つかったあと

これらのクエリのどれかで得たトレース id を GET /v1/api/traces/{trace_id} に渡すと、その実行と中のすべての スパンが返ります。すでに順序づけられているので、二度目のリクエストなしで ウォーターフォールを描けます。include=logs,scores,feedback を足すと、 それに紐づくすべてが同じ応答で返ります。

そこから先は、各ステップの数字について コスト集計が説明し、 HTTP API リファレンスが、 仕様が宣言するとおりのすべてのエンドポイントとフィールドを列挙します。