Amazon Bedrock Model Telemetry: 경계에서 검증된 행까지
제어된 애플리케이션 경계에서 Amazon Bedrock Model Telemetry를 사용하고, 이벤트 계약을 작게 유지하고, 집계 뷰를 구축하기 전에 알려진 결과를 확인하세요.
- 1
결과를 선택하세요
기반 모델 비용 귀속
- 2
계약 정의
공급자, model_id, inference_profile, 지역, 기능 및 상태
- 3
경계 계측
라우팅과 가격이 다를 수 있으므로 실제 모델 또는 추론 프로필 식별자를 기록하세요.
- 4
증거를 확인하세요
Exercise a known fixture, then inspect llm_request_completed for one correctly typed terminal row.
시작하기 전에
전제 조건 및 경계
- 최소 Bedrock 모델 권한이 있는 AWS 자격 증명
- 서버측 TELEMETRY_API_KEY
- 승인된 모델, 지역, 기능 및 프롬프트 버전 차원
배송 설정
서버 측 설치 및 초기화
서버 전용 코드에서 telemetry-sh를 가져오고 process.env.TELEMETRY_API_KEY로 한 번 초기화합니다. 브라우저 번들, 클라이언트에 표시되는 환경 변수, 소스 제어, 로그 및 예외 메시지에서 수집 자격 증명을 유지하세요.
npm 설치
npm install telemetry-sh- 1제한된 네트워크 동작을 갖춘 재사용 가능한 서버 측 전달 클라이언트 하나를 준비합니다.
- 2성공, 실패, 재시도 또는 시간 초과 경계에 결과 이벤트를 추가합니다.
- 3알림을 활성화하기 전에 제어된 고정 장치를 보내고 저장된 행을 검사하십시오.
스니펫
하나의 체계적인 이벤트로 시작하세요
워크플로가 완료, 실패 또는 재시도되는 위치에 이 셰이프를 추가합니다. 그런 다음 실제 필드에서 대시보드를 구축합니다.
Amazon Bedrock Model Telemetry 이벤트
import {
BedrockRuntimeClient,
ConverseCommand,
} from "@aws-sdk/client-bedrock-runtime";
import telemetry from "telemetry-sh";
const bedrock = new BedrockRuntimeClient({ region: process.env.AWS_REGION });
const startedAt = performance.now();
const modelId = process.env.BEDROCK_MODEL_ID;
try {
const response = await bedrock.send(new ConverseCommand({
modelId,
messages,
}));
await telemetry.log("llm_request_completed", {
provider: "aws_bedrock",
model: modelId,
region: process.env.AWS_REGION,
feature: "research_assistant",
status: "success",
latency_ms: Math.round(performance.now() - startedAt),
input_tokens: response.usage?.inputTokens,
output_tokens: response.usage?.outputTokens,
total_tokens: response.usage?.totalTokens,
finish_reason: response.stopReason,
});
return response;
} catch (error) {
await telemetry.log("llm_request_completed", {
provider: "aws_bedrock",
model: modelId,
region: process.env.AWS_REGION,
feature: "research_assistant",
status: "failed",
latency_ms: Math.round(performance.now() - startedAt),
error_type: classifyProviderError(error),
});
throw error;
}이벤트 계약
공급자, model_id, inference_profile, 지역, 기능 및 상태
input_tokens, output_tokens, latency_ms, stop_reason 및 estimated_cost_usd
tool_count, error_type를 시도하고 사업 성과를 검토했습니다.
구현 체크포인트
체크포인트 1
라우팅과 가격이 다를 수 있으므로 실제 모델 또는 추론 프로필 식별자를 기록하세요.
체크포인트 2
텍스트 길이에서 토큰을 추정하는 대신 Bedrock 응답 사용량을 사용합니다.
체크포인트 3
메시지 콘텐츠, 도구 인수, 자격 증명 및 원시 모델 응답을 일반 원격 분석 외부에 유지하세요.
검증
이벤트가 도착했음을 증명하세요.
알려진 성공 및 실패 사례를 연습한 후 이를 실행하십시오. 최종 이벤트 계약이 스니펫과 다른 경우 대체 테이블 이름을 바꾸세요.
Amazon Bedrock Model Telemetry 확인 쿼리
SELECT *
FROM llm_request_completed
ORDER BY timestamp_utc DESC
LIMIT 20;구현 참조
새로운 프로덕션 경로를 활성화하기 전에 이벤트 계약, 데이터 안전 지침, 업스트림 기본 문서를 검토하세요.
프로덕션 경계
결과 이벤트를 작고 복구 가능하게 유지
이 패턴은 다음을 제공합니다.
- 업스트림 워크플로우 옆에 제한된 SQL 지원 결과가 있습니다.
- 대시보드, 알림 및 교차 이벤트 상관 관계를 위한 안정적인 필드입니다.
- 성공, 실패, 재시도 및 시간 초과 동작을 검증하기 위한 고정 장치 기반 경로입니다.
이 패턴은 제공하지 않습니다
- OTLP 내보내기, 자동 수집 파이프라인 또는 자세한 추적 및 진단 로그를 대체합니다.
- 페이로드에 이벤트 ID가 포함되어 있기 때문에 정확히 한 번만 전달됩니다.
- 원시 공급자 페이로드, 사용자 콘텐츠, 자격 증명 또는 규제 데이터를 수집할 수 있는 권한입니다.
이벤트 스키마 시작점
이 워크플로우에 대한 이벤트 계약
쿼리 또는 스니펫을 프로덕션에 적용하기 전에 행 그레인, 방출 경계, 필수 유형, 개인 정보 보호 클래스, 예제 페이로드 및 유효성 검사 체크리스트를 검토하세요.
관련 제품 기능
이 워크플로를 다음에서 계속하세요. AI 에이전트 모니터링
검토 가능한 SQL을 사용하여 에이전트 실행, 도구 사용, 모델 비용, 품질 및 제품 결과를 연결하세요.
관련 SQL 레시피
SQL로 다음 질문에 답하세요
이 워크플로의 구조화된 필드에 대해 쿼리를 실행하고, 예제 결과를 검사하고, 유용한 답변을 대시보드 또는 알림으로 전환하세요.
기능 및 모델별로 LLM 비용 계산
LLM 지출을 주도하는 제품 기능과 모델은 무엇입니까?
레시피 열기첫 번째 토큰까지 LLM 시간 측정
출력이 시작되기 전에 어떤 모델과 기능 조합이 느리게 느껴지나요?
레시피 열기LLM 캐시 절감 및 재시도 비용 측정
재시도 및 캐시 누락과 관련된 모델 비용은 얼마입니까?
레시피 열기AI 에이전트 작업 성공 및 인간 핸드오프 측정
어떤 상담사 워크플로가 성공적으로 완료되고 허용되는 결과를 생성합니까?
레시피 열기구현 제품군별로 찾아보기
관련 통합 패턴 비교
이 통합과 페어링할 템플릿
더 많은 통합
인류 클로드 API Telemetry
프롬프트를 저장하지 않고도 Claude API 토큰 사용량, 모델, 대기 시간, 중지 이유, 오류, 비용 컨텍스트를 추적하고 제품 결과를 검토할 수 있습니다.
가이드 열기OpenAI 에이전트 Telemetry
구조화된 이벤트를 통해 OpenAI 에이전트 실행, 도구 호출, 모델 사용, 대기 시간, 비용 및 최종 결과를 기록합니다.
가이드 열기OpenAI 응답 API Telemetry
프롬프트나 생성된 콘텐츠를 수집하지 않고 OpenAI 응답 API 대기 시간, 토큰 사용, 도구 활동, 오류 및 다운스트림 결과를 측정합니다.
가이드 열기