跳到主要内容
FluxMeter
English

常见问题

面向 AI API 与网关的 token 原生计量 — 可选护栏与 Intelligence。

FluxMeter 是什么?

FluxMeter 是开源、可自托管的实时、token 原生计量引擎,面向 AI API、Token 中转与多租户网关。摄入用量、按模型计价、按下游客户查询成本 — 硬闸与 Intelligence 为同一数据上的可选能力。

FluxMeter 与 OpenMeter 或 Lago 有何不同?

OpenMeter、Lago、Metronome 偏用量→开票;FluxMeter 偏 runtime 计量正确性 + 可选硬闸(check / kill)。我们与开票平台互补 — 不替代开票、税务或 Merchant of Record。

FluxMeter 预算检查有多快?

请求前预算检查目标延迟低于 10ms。Full 部署路径通过 Kafka 和 Flink 聚合,支持每秒 100 万+ 事件。

可以自托管 FluxMeter 吗?

可以。Lite 模式通过 docker-compose 本地运行(make demo)。Apache 2.0 许可证,无供应商锁定。

FluxMeter 支持流式 LLM 响应吗?

支持。流式输出前调用 POST /budget/{id}/reserve,流结束后 POST /ingest 和 POST /reconcile。有效余额会扣除进行中的流式预留。自 v2.8 起可在 reserve 上传 parent_span_id,同时占用客户钱包与 span 封顶池。Python wrap() 在预估成本超过预留时会在流中抛出 StreamKilledError(SDK 1.5.0)。

FluxMeter 支持哪些计费平台?

FluxMeter 可导出用量到 Stripe Meters、Metronome、Orb、Lago、OpenMeter 和 Zuora。v2.8 提供一等公民 Metronome/Orb/Stripe 导出(BILLING_EXPORT_TARGETS)、通用 POST /admin/billing/{id}/link,以及 docs/integrations/ 下的合作方配方。支持分层定价与预付费 Token 包。FluxMeter 负责拦截;计费平台仍是发票账本。

能否在不建数仓的情况下查询客户账单用量?

可以。GET /usage/customer/{id}/period/{YYYY-MM} 查月度用量,GET /usage/customer/{id}/day/{YYYY-MM-DD} 查日用量,GET /usage/session/{id} 查会话/项目成本(lite sessionId)。Agent 任务通过 parentSpanId 配合 GET /usage/span/{id} — Lite 自 v2.6.2 起聚合 span;Full 使用 Flink SpanSink。自 v2.8 起可白名单 metadata 维度,并用 GET /usage/dim/{key}/{value}?period=YYYY-MM 按功能或工作流切片。

怎样用最少代码完成集成?

pip install fluxmeter(1.5.0+),Lite 用 FluxMeter(api_url=...),再 wrap(OpenAI(), meter, customer_id=...)。wrap() 负责请求前 check、调用后 track,并支持 fail-open。SDK 1.5.0 新增 reserve(parent_span_id=) / reconcile(parent_span_id=) 用于层级预留。Full 模式改传 kafka_brokers。

能否按 Agent 任务或会话硬封顶?

可以。v2.7 新增 POST /budget/{id}/cap,kind 为 span 或 session。在 GET /budget/{id}/check 上传 parent_span_id 或 session_id;超额返回 reason=hierarchy_cap。v2.8 增加层级 reserve-confirm:POST /budget/{id}/reserve?parent_span_id= 会原子占用客户余额与 span 封顶池。

Lite 模式支持预算 Webhook 吗?

支持。v2.7 在 /ingest 后无需 Kafka 即可投递 BUDGET_LOW、BUDGET_EXHAUSTED 与 BUDGET_WARN(消耗达 initial_balance + topups 的 70%/90%)。通过 POST /budget/{id}/webhook 配置。

能否按客户 API Key 设置预算?

可以。v2.8 新增 POST /admin/customers/{id}/apikeys/{key_id}/budget。当请求使用该客户 API Key 鉴权时,GET /budget/{id}/check 会在客户钱包之外额外执行按 Key 预算。

如何把用量归因到产品功能或工作流?

v2.8 在 /ingest 接受 metadata 对象(键由 FLUXMETER_USAGE_DIMS 白名单)。用 GET /usage/dim/{key}/{value}?period=YYYY-MM 按功能开关、房间或工作流标签切片查询 — 无需数仓。

FluxMeter 支持哪些 LLM Provider?

内置 OpenAI、Anthropic、Google 模型定价,以及 20 个中国本土模型(DeepSeek、通义千问、GLM、Moonshot、豆包、百川、MiniMax、混元)。Python 和 JS SDK 提供 track_* 辅助函数,可从 Provider 响应自动提取 Token 数量。

什么是 FluxMeter Intelligence?

/intelligence/* 下的处方式商业化 API — 根因分析、单位经济、情景模拟、定价优化、利润看板、预测、告警与报表导出。读取原生用量/成本汇总;收入可来自 OpenMeter 叠加或手动 POST。

FluxMeter 会替代 OpenMeter 或 Langfuse 吗?

不会。FluxMeter 与它们互补:OpenMeter/Lago 负责发票;Langfuse/Helicone 负责可观测性。Intelligence 叠加收入与成本;计量层可导出事件或在热路径拦截。详见 /market-map 市场地图。

Intelligence 的单位经济需要什么数据?

成本来自 FluxMeter 原生摄入汇总。收入需要 OpenMeter 叠加摄入或 POST /intelligence/revenue/{customer_id}。无收入数据的客户返回 status unknown_revenue 及连接提示。

计量层还在维护吗?

是的。实时 token 计量(ingest、计价、客户用量查询、Lite/Full、Gateway)是核心产品。可选硬闸与 Intelligence 建立在相同数据之上 — 不会替代计量。