跳转到内容
Telemetry
人工智能和法学硕士 SQL查询示例

按功能和模型计算 LLM 成本

将模型支出、代币、请求量和每个请求的成本归因于产品功能。

入门llm_request_completed已审核 2026-07-27测试用 阿帕奇 DataFusion 45.2.0

审阅者 Telemetry产品团队 . SQL 兼容性、事件契约、合成输出和操作注意事项. 审查标准和所有权

问题已回答

哪些产品功能和型号正在推动法学硕士支出?

提供商的每日支出无法解释成本增长是否来自采用、模型更改或低效提示。功能级请求事件将支出连接到创建它的工作流程。

活动合约

查询期望的字段

字段类型为什么存在
timestamp_utcTimestamp当模型请求完成时。
featureUtf8稳定的产品工作流程或功能名称。
modelUtf8提供者模型标识符。
input_tokensInt64提供商报告的输入令牌。
output_tokensInt64提供者报告的输出令牌。
estimated_cost_usdFloat64根据版本化模型定价计算的请求成本。
statusUtf8成功或失败。
DataFusion SQL

复制查询

sql
SELECT
  feature,
  model,
  COUNT(*) AS requests,
  SUM(input_tokens + output_tokens) AS total_tokens,
  ROUND(SUM(estimated_cost_usd), 4) AS cost_usd,
  ROUND(SUM(estimated_cost_usd) / NULLIF(COUNT(*), 0), 4) AS cost_per_request_usd
FROM llm_request_completed
WHERE timestamp_utc >= now() - INTERVAL '30 days'
  AND feature IS NOT NULL
GROUP BY feature, model
ORDER BY cost_usd DESC;

此只读查询是针对空类型表计划和执行的 阿帕奇 DataFusion 45.2.0。确定性样本输出是综合的并单独审查;根据您自己的数据验证字段类型、阈值和业务定义。 阅读测试方法。

查询结果

按功能划分的 30 天模型成本

研究报告显示,尽管请求少得多,但整体成本却更高,这表明单位成本优化而不是采用问题。

featuremodelrequeststotal_tokenscost_usdcost_per_request_usd
research_reportreasoning-large48,0000.80.2
document_summarybalanced-medium34,5000.150.05
support_draftfast-small55,0000.10.02

综合示例输出。在将其用于操作决策之前,针对您自己的事件架构和阈值运行查询。

Thirty-day model cost by feature:来自 Calculate LLM Cost by Feature and Model 示例结果的合成 cost_usd 值的静态图表
确定性示例输出的可索引 SVG。下载它以获取带有归属的文章、操作手册或设计评论。

重现示例

下载公共装置

JSON 包包含类型化事件契约, reproducible 输入行、确切的 SQL、预期输出、审阅注释和引擎版本。 CSV 包含显示的结果。

SQL 是如何工作的

  1. 1按特征和模型进行分组可以保留解释模型迁移所需的上下文。
  2. 2每个请求的成本将大批量廉价工作流程与小批量昂贵工作流程区分开来。
  3. 3使用版本化价格表存储事件时计算的请求成本,以便历史报告不会在提供商定价发生变化时发生变化。

需要决定的边缘情况

  • 当输入、缓存输入和输出令牌具有不同价格时,请勿将总令牌乘以一个比率。
  • 如果提供商向其计费,则包括失败的请求;否则添加 billing_status 字段。
  • 当客户的利润存在重大差异时,请使用帐户或团队标识符。

推荐仪表板

  • 条形图:cost_usd(按功能)
  • 折线图:按型号划分每日成本
  • 表:没有原始提示内容的最高成本的单独请求

警报指导

当每日功能成本或每个成功结果的成本超出商定的预算时发出警报,而不仅仅是在请求量增加时发出警报。

读取警报设置

让查询示例发挥作用

相关埋点和指南

定义源数据

此分析的事件模式

继续分析

在真实事件中运行它

创建表,调整字段并保存结果

免费开始,发送结构化事件,并将查询结果用作图表、共享仪表板小部件或警报输入。

获取 API 密钥