DSPy Program Evaluation Telemetry: 境界から検証された行まで
制御されたアプリケーション境界で DSPy Program Evaluation Telemetry を使用し、イベント コントラクトを小さく保ち、集約ビューを構築する前に既知の結果を検証します。
- 1
結果を選択してください
DSPy プログラムの信頼性
- 2
契約を定義する
operation_id、program_name、program_version、model_alias、optimizer_name、およびリリース
- 3
境界を計測する
実稼働結果のパブリック DSPy モジュール呼び出しをラップし、dspy.Evaluate の完了後に評価結果を個別に出力します。
- 4
証拠を検証する
Exercise a known fixture, then inspect dspy_program_completed for one correctly typed terminal row.
始める前に
前提条件と境界
- DSPy と telemetry-sh が信頼できる Python プロセスで初期化される
- 安定したプログラム、モデル、オプティマイザー、データセット、メトリック、リリースのバージョン
- ライブ予測とオフライン評価結果の個別のイベントグレイン
配信設定
サーバー側のインストールと初期化
サーバー側キーを使用して、プロセスごとに 1 回、同期コードの場合は Telemetry を、非同期コードの場合は TelemetryAsync を初期化します。 ブラウザ バンドル、クライアントに表示される環境変数、ソース管理、ログ、および例外メッセージに取り込み資格情報が含まれないようにします。
pipのインストール
python -m pip install telemetry-sh- 1制限されたネットワーク動作を持つ再利用可能なサーバー側配信クライアントを 1 つ準備します。
- 2成功、失敗、再試行、またはタイムアウトの境界に結果イベントを追加します。
- 3アラートを有効にする前に、制御されたフィクスチャを送信し、保存されている行を検査します。
スニペット
1 つの構造化されたイベントから始める
ワークフローが完了、失敗、または再試行される場所にこの図形を追加します。次に、実際のフィールドからダッシュボードを構築します。
DSPy Program Evaluation Telemetryイベント
from time import perf_counter
def run_support_program(program, question: str, operation_id: str):
started_at = perf_counter()
status = "success"
error_type = None
try:
return program(question=question)
except Exception as error:
status = "failed"
error_type = classify_program_error(error)
raise
finally:
telemetry.log("dspy_program_completed", {
"operation_id": operation_id,
"program_name": "support_answer",
"program_version": PROGRAM_VERSION,
"model_alias": MODEL_ALIAS,
"status": status,
"error_type": error_type,
"duration_ms": round((perf_counter() - started_at) * 1000),
"release": APP_RELEASE,
})イベント契約
operation_id、program_name、program_version、model_alias、optimizer_name、およびリリース
ステータス、duration_ms、estimated_cost_usd、承認済み、および error_type
dataset_version、metric_name、metric_version、evaluation_score、合格、および評価イベントの evaluated_at
実装のチェックポイント
チェックポイント 1
実稼働結果のパブリック DSPy モジュール呼び出しをラップし、dspy.Evaluate の完了後に評価結果を個別に出力します。
チェックポイント 2
異なるデータセット、メトリクス、判定モデル、しきい値、または評価カバレッジを使用したオプティマイザーの候補を、それらのバージョンを分離せずに比較しないでください。
チェックポイント 3
例、予測、トレース、メトリクス フィードバック、プロンプト、モデル履歴を、Telemetry にコピーするのではなく、承認された DSPy または可観測性ワークフローに保持します。
検証
イベントが到着したことを証明する
既知の成功例と失敗例を実行した後、これを実行します。最終的なイベント コントラクトがスニペットと異なる場合は、フォールバック テーブル名を置き換えます。
DSPy Program Evaluation Telemetry 検証クエリ
SELECT *
FROM dspy_program_completed
ORDER BY timestamp_utc DESC
LIMIT 20;実装の参考資料
新しい運用パスを有効にする前に、イベント契約、データ安全性に関するガイダンス、上流の主要ドキュメントを確認してください。
生産境界
結果イベントを小さく、回復可能なものに保つ
このパターンが提供するのは、
- 上流のワークフローの横にある、制限付きの SQL 対応の結果。
- ダッシュボード、アラート、およびイベント間の相関関係の安定したフィールド。
- 成功、失敗、再試行、タイムアウトの動作を検証するためのフィクスチャ駆動のパス。
このパターンでは提供されません
- OTLP エクスポーター、自動収集パイプライン、または詳細なトレースと診断ログの代替。
- ペイロードにイベント ID が含まれているという理由だけで、1 回だけ配信されます。
- 生のプロバイダー ペイロード、ユーザー コンテンツ、資格情報、または規制されたデータを収集する許可。
イベントスキーマの開始点
このワークフローのイベント コントラクト
クエリまたはスニペットを運用環境に適用する前に、行粒度、出力境界、必要なタイプ、プライバシー クラス、サンプル ペイロード、および検証チェックリストを確認してください。
関連製品の機能
このワークフローを続行します AIエージェントの監視
レビュー可能な SQL を使用して、エージェントの実行、ツールの使用、モデルのコスト、品質、製品の結果を結び付けます。
関連する SQL レシピ
SQL で次の質問に答えてください
このワークフローの構造化フィールドに対してクエリを実行し、結果の例を検査して、有用な回答をダッシュボードまたはアラートに変換します。
プロンプト バージョンごとに AI 品質の低下を見つける
新しいプロンプト バージョンでは、人間による引き継ぎを増やすことなく品質が向上しましたか?
レシピを開くバージョンごとの RAG 取得品質の評価
新しい RAG パイプラインにより、検索率と根拠のある回答率は向上しましたか?
レシピを開く1 ドルあたりの受け入れられた AI 出力を測定する
どのモデルと機能の組み合わせが、1 ドルあたり最も受け入れられる出力を生成しますか?
レシピを開く機能とモデルごとに LLM コストを計算する
LLM の支出を促進しているのはどの製品機能とモデルですか?
レシピを開く実装ファミリーごとに参照する
関連する統合パターンを比較する
この統合と組み合わせるテンプレート
さらなる統合
Vercel AI SDK テレメトリ
ストリーミングの完了、トークンの使用状況、再試行、レイテンシ、および AI SDK ワークフローからの受け入れられた結果を追跡します。
オープンガイドOpenAI エージェント Telemetry
OpenAI エージェントの実行、ツール呼び出し、モデルの使用状況、レイテンシー、コスト、および構造化イベントによる最終結果をログに記録します。
オープンガイドGoogle ジェミニ API Telemetry
プロンプトや生成されたコンテンツを保存せずに、Gemini リクエストのレイテンシー、モデルの使用状況、トークン、終了理由、エラー、レビューされた製品の結果を追跡します。
オープンガイド