跳到主要内容
FluxMeter
English

术语表

LLM Token 计量与 AI 变现术语表

本术语表解释 AI 产品在按 token 定价、导出用量、再交给计费系统时会遇到的计量、准入与变现用语。FluxMeter 是开源的 LLM token 计量层:按客户归因 token 与成本,可选按预算做请求前准入,并导出用量。定价换算(rating)、开票、commitment 与预付账本仍由你的计费系统负责(Stripe、Lago、Orb、Metronome、Zuora 等)——FluxMeter 不替代它们。

LLM token 计量

LLM token 计量(token metering)是记录每次请求消耗的输入与输出 token,把用量及其成本归因到正确的客户或租户,并让这些用量可查询、可导出。它是 AI 产品按量定价之下的数据层:计量解决「用了多少、是谁用的」,不负责定价格、划扣额度或开具账单。

在 FluxMeter 中: FluxMeter 是开源的 LLM token 计量层,按客户归因 token 与成本并导出用量——它不是计费平台。

相关: 架构 · 文档 · 常见问题 · llms-full.txt (英文)

用量计价(usage rating)

Usage rating(用量计价)是按客户价格计划、承诺消费、折扣与额度,把已计量的用量换算成可开账金额。计量负责测量与归因;rating 负责定价换算。FluxMeter 用价目表归因用量成本以便可见,但 rating 引擎与开票属于 Stripe、Lago、Orb、Metronome 等计费系统。FluxMeter 不是 rating 引擎。

在 FluxMeter 中: 互补关系——FluxMeter 负责计量;计费系统负责 rating 与开票。

相关: 常见问题 · 对比:Lago · 对比:OpenMeter

预付划扣

预付划扣(prepaid drawdown / prepaid credits)指客户预先购买用量余额,之后每笔可计费用量从余额扣减,直到 true-up 或续费。在预付划扣场景里,FluxMeter 提供每客户用量和可选预算信号;划扣账本与 true-up 由计费系统负责。额度用尽时,FluxMeter 可在请求执行前选择拒绝。预算检查不保证零超支。

在 FluxMeter 中: 提供用量与可选预算信号;划扣账本留在计费系统(Stripe、Lago、Orb、Metronome 等)。

相关: Gateway 文档 · 常见问题:预付划扣 · 对比:Lago · 对比:Metronome · 对比:Orb

承诺消费(commitment)

在按量计费语境下,commitment(承诺消费)指合同约定在一段时间内消费最低用量或金额,常伴随超额单价与 true-up。FluxMeter 不保存也不执行 commitment 账本;它只导出干净的每客户用量,供 Metronome、Orb 等计费平台套用承诺消费、折扣与 true-up 结算规则。

在 FluxMeter 中: 不是 commitment 账本——只导出用量,供计费平台套用承诺消费规则。(此处 commitment 指计费合同义,不是 git。)

相关: 常见问题 · 对比:OpenMeter · 对比:Metronome · 对比:Orb · llms-full.txt (英文)

硬门控(请求前预算检查)

Hard gate(硬门控)是请求前的预算或预付准入检查,决定当前客户预算下是否允许发起模型调用。FluxMeter 在 Gateway 路径上提供可选检查(估算→门控→预留→上游)。预算检查不创建 hold,也不保证零超支:缓存回退、流式估算与并发仍可能超限。

在 FluxMeter 中: Gateway 上的可选请求前准入;可降低超支风险,不承诺零超支。

相关: Gateway 文档 · 架构 · 常见问题:失控成本 · 阻止 Agent 失控烧钱

客户归因

客户归因(customer attribution)指在 LLM 计量中,把每条 token 事件及其用量成本挂到正确的客户或租户,通常依赖鉴权推导的租户上下文与租户感知键。没有归因,上游账单只能停在账户级,无法支撑按客户定价或预算。FluxMeter 用稳定事件身份按客户归因 token 与成本,便于 Usage API 查询与计费导出审计。

在 FluxMeter 中: 核心工作——用稳定事件身份做按客户的 token 与成本归因。

相关: 架构 · Usage API · 常见问题:客户归因 · 上游账单 vs 客户用量

用量聚合

用量聚合(usage aggregation)把大量原始 token 事件汇总成按客户、按维度的总量,供 Usage API 查询并被计费系统接收。在 FluxMeter 中,Flink 是 usage aggregation engine:按客户聚合计量事件,并用价目表归因用量成本;Redis 保存查询状态。聚合不是开票,发票一律由计费系统出具。

在 FluxMeter 中: Flink 是 usage aggregation engine(绝不是 “billing and aggregation engine”);用价目表归因用量成本。

相关: 架构 · 文档 · llms-full.txt (英文)

AI 变现 / token monetization

AI 变现 / token monetization 指通过计量、定价与计费把模型用量变成收入。常见分层是:按客户计量并归因 token,可选按预算门控请求,再由计费系统做 rating 与开票。FluxMeter 覆盖计量、归因、可选准入与导出;Stripe、Lago、Orb、Metronome 或 Zuora 则覆盖定价、rating、commitment 与收款等计费全流程。

在 FluxMeter 中: 栈叙事为 meter → rate → bill。FluxMeter 是计量层(外加可选门控与导出),不是计费平台。

相关: 对比 · 市场地图 · 常见问题:计量 / 定价 / 计费 · 使用场景 · AI 商业化市场地图(博客)

预留与对账

预留与对账(reserve / reconcile)是流式场景下的模式:在流开始前或进行中估算 token,可选为估算占用预算容量,流结束后按实际用量调整。FluxMeter Gateway 在与计量同一条 Custody 路径上支持预留与对账。预留能降低长流超支风险,但在并发或估算偏差下仍不保证零超支。

在 FluxMeter 中: Gateway 在 Custody 路径上的流式控制;仍然不保证零超支。

相关: Gateway 文档 · 架构 · 常见问题

上游账单 vs 客户用量

上游模型厂商(如 OpenAI、Anthropic)的账单按你的账户汇总,采用厂商自己的定价、时点与取整;面向客户的数字取决于你如何归因每一次请求。FluxMeter 用稳定事件身份计量每次请求,并按客户归因 token 与成本,从而提供可审计记录,用来与上游账单对账。

在 FluxMeter 中: 提供按客户的计量记录,用来与账户级上游账单对账——详见下方深度文。

相关: 上游账单 vs 客户用量 · 架构 · 常见问题