本文へ移動
Telemetry
統合ガイド

Azure OpenAI 応答 Telemetry

編集可能な SQL 対応イベントを使用して、Azure OpenAI デプロイの使用状況、トークン コスト、遅延、障害、製品の結果を追跡します。

レビュー者 Telemetry 製品チーム . インストルメンテーション契約、プライバシー境界、および実装ガイダンス. 基準と所有権を確認する

役に立つ
  • Azure 導入コストの帰属
  • 地域モデルの信頼性
  • 応答 API ワークフロー監視
実装の証拠

Azure OpenAI Responses Telemetry: 境界から検証された行まで

制御されたアプリケーション境界で Azure OpenAI Responses Telemetry を使用し、イベント コントラクトを小さく保ち、集約ビューを構築する前に既知の結果を検証します。

  1. 1

    結果を選択してください

    Azure 導入コストの帰属

  2. 2

    契約を定義する

    プロバイダー、デプロイメント、モデル、リージョン、機能、およびステータス

  3. 3

    境界を計測する

    Azure デプロイ名は、返されたモデル識別子とは別に保管してください。

  4. 4

    証拠を検証する

    Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.

始める前に

前提条件と境界

  • サーバー側の Azure OpenAI 資格情報と TELEMETRY_API_KEY
  • 安定した展開、リージョン、機能、およびプロンプト バージョンの契約
  • デプロイされたモデルのバージョン付きの価格検索

配信設定

サーバー側のインストールと初期化

サーバー専用コードで telemetry-sh をインポートし、process.env.TELEMETRY_API_KEY で一度初期化します。 ブラウザ バンドル、クライアントに表示される環境変数、ソース管理、ログ、および例外メッセージに取り込み資格情報が含まれないようにします。

azure-openai-インストール

npmのインストール

bash
npm install telemetry-sh
  1. 1制限されたネットワーク動作を持つ再利用可能なサーバー側配信クライアントを 1 つ準備します。
  2. 2成功、失敗、再試行、またはタイムアウトの境界に結果イベントを追加します。
  3. 3アラートを有効にする前に、制御されたフィクスチャを送信し、保存されている行を検査します。

スニペット

1 つの構造化されたイベントから始める

ワークフローが完了、失敗、または再試行される場所にこの図形を追加します。次に、実際のフィールドからダッシュボードを構築します。

azure-openai

Azure OpenAI Responses Telemetryイベント

javascript
import OpenAI from "openai";
import telemetry from "telemetry-sh";

const azure = new OpenAI({
  apiKey: process.env.AZURE_OPENAI_API_KEY,
  baseURL: process.env.AZURE_OPENAI_BASE_URL,
});
const startedAt = performance.now();

try {
  const response = await azure.responses.create({
    model: process.env.AZURE_OPENAI_DEPLOYMENT,
    input: userInput,
  });

  await telemetry.log("llm_request_completed", {
    provider: "azure_openai",
    deployment: process.env.AZURE_OPENAI_DEPLOYMENT,
    model: response.model,
    region: process.env.AZURE_REGION,
    feature: "document_summary",
    status: "success",
    latency_ms: Math.round(performance.now() - startedAt),
    input_tokens: response.usage?.input_tokens,
    output_tokens: response.usage?.output_tokens,
    total_tokens: response.usage?.total_tokens,
    prompt_version: "summary-v3",
  });

  return response;
} catch (error) {
  await telemetry.log("llm_request_completed", {
    provider: "azure_openai",
    deployment: process.env.AZURE_OPENAI_DEPLOYMENT,
    feature: "document_summary",
    status: "failed",
    latency_ms: Math.round(performance.now() - startedAt),
    error_type: classifyProviderError(error),
  });
  throw error;
}

イベント契約

プロバイダー、デプロイメント、モデル、リージョン、機能、およびステータス

input_tokens、output_tokens、total_tokens、latency_ms、および estimated_cost_usd

response_id、prompt_version、error_type、および承認された結果

実装のチェックポイント

チェックポイント 1

Azure デプロイ名は、返されたモデル識別子とは別に保管してください。

チェックポイント 2

応答から使用状況を読み取り、デプロイメントに関連付けられた価格バージョンを適用します。

チェックポイント 3

明示的な承認なしに、プロンプト、出力、API 資格情報、エンドユーザー識別子、または生のプロバイダー エラー本文をログに記録しないでください。

検証

イベントが到着したことを証明する

既知の成功例と失敗例を実行した後、これを実行します。最終的なイベント コントラクトがスニペットと異なる場合は、フォールバック テーブル名を置き換えます。

azure-openai-検証

Azure OpenAI Responses Telemetry 検証クエリ

sql
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;
論理結果ごとに 1 つのターミナル行を、予想されるステータス、識別子、単位、および UTC 時刻とともに確認します。
推論されたスキーマを検査し、再試行によってフィールド タイプが変更されたり、新しい論理イベント ID が生成されたりしないことを確認します。
保存されたフィールドで認証情報、生のペイロード、プロンプト、プライベート コンテンツ、および無制限のエラー メッセージを検索します。
ダッシュボードを完了として扱う前に、プロバイダーのタイムアウト、取り込みの拒否、およびプロセスのシャットダウンを実行します。

実装の参考資料

新しい運用パスを有効にする前に、イベント契約、データ安全性に関するガイダンス、上流の主要ドキュメントを確認してください。

生産境界

結果イベントを小さく、回復可能なものに保つ

このパターンが提供するのは、

  • 上流のワークフローの横にある、制限付きの SQL 対応の結果。
  • ダッシュボード、アラート、およびイベント間の相関関係の安定したフィールド。
  • 成功、失敗、再試行、タイムアウトの動作を検証するためのフィクスチャ駆動のパス。

このパターンでは提供されません

  • OTLP エクスポーター、自動収集パイプライン、または詳細なトレースと診断ログの代替。
  • ペイロードにイベント ID が含まれているという理由だけで、1 回だけ配信されます。
  • 生のプロバイダー ペイロード、ユーザー コンテンツ、資格情報、または規制されたデータを収集する許可。

イベントスキーマの開始点

クエリまたはスニペットを運用環境に適用する前に、行粒度、出力境界、必要なタイプ、プライバシー クラス、サンプル ペイロード、および検証チェックリストを確認してください。

関連製品の機能

このワークフローを続行します AIエージェントの監視

レビュー可能な SQL を使用して、エージェントの実行、ツールの使用、モデルのコスト、品質、製品の結果を結び付けます。

関連する SQL レシピ

SQL で次の質問に答えてください

このワークフローの構造化フィールドに対してクエリを実行し、結果の例を検査して、有用な回答をダッシュボードまたはアラートに変換します。

すべてのレシピを参照する
完全なコレクションAIとLLM SQL

実装ファミリーごとに参照する

関連する統合パターンを比較する

この統合と組み合わせるテンプレート

さらなる統合