常见问题
面向 AI API 与网关的 token 原生计量 — 可选护栏与 Intelligence。
FluxMeter 是什么?
FluxMeter 是开源、可自托管的实时、token 原生计量引擎,面向 AI API、Token 中转与多租户网关。摄入用量、按模型计价、按下游客户查询成本 — 硬闸与 Intelligence 为同一数据上的可选能力。
FluxMeter 与 OpenMeter 或 Lago 有何不同?
OpenMeter、Lago、Metronome 偏用量→开票;FluxMeter 偏 runtime 计量正确性 + 可选硬闸(check / kill)。我们与开票平台互补 — 不替代开票、税务或 Merchant of Record。
FluxMeter 预算检查有多快?
请求前预算检查目标延迟低于 10ms。Full 部署路径通过 Kafka 和 Flink 聚合,支持每秒 100 万+ 事件。
可以自托管 FluxMeter 吗?
可以。Lite 模式通过 docker-compose 本地运行(make demo)。Apache 2.0 许可证,无供应商锁定。
FluxMeter 支持流式 LLM 响应吗?
支持。流式输出前调用 POST /budget/{id}/reserve,流结束后 POST /ingest 和 POST /reconcile。有效余额会扣除进行中的流式预留。自 v2.8 起可在 reserve 上传 parent_span_id,同时占用客户钱包与 span 封顶池。Python wrap() 在预估成本超过预留时会在流中抛出 StreamKilledError(SDK 1.5.0)。
FluxMeter 支持哪些计费平台?
FluxMeter 可导出用量到 Stripe Meters、Metronome、Orb、Lago、OpenMeter 和 Zuora。v2.8 提供一等公民 Metronome/Orb/Stripe 导出(BILLING_EXPORT_TARGETS)、通用 POST /admin/billing/{id}/link,以及 docs/integrations/ 下的合作方配方。支持分层定价与预付费 Token 包。FluxMeter 负责拦截;计费平台仍是发票账本。
能否在不建数仓的情况下查询客户账单用量?
可以。GET /usage/customer/{id}/period/{YYYY-MM} 查月度用量,GET /usage/customer/{id}/day/{YYYY-MM-DD} 查日用量,GET /usage/session/{id} 查会话/项目成本(lite sessionId)。Agent 任务通过 parentSpanId 配合 GET /usage/span/{id} — Lite 自 v2.6.2 起聚合 span;Full 使用 Flink SpanSink。自 v2.8 起可白名单 metadata 维度,并用 GET /usage/dim/{key}/{value}?period=YYYY-MM 按功能或工作流切片。
怎样用最少代码完成集成?
pip install fluxmeter(1.5.0+),Lite 用 FluxMeter(api_url=...),再 wrap(OpenAI(), meter, customer_id=...)。wrap() 负责请求前 check、调用后 track,并支持 fail-open。SDK 1.5.0 新增 reserve(parent_span_id=) / reconcile(parent_span_id=) 用于层级预留。Full 模式改传 kafka_brokers。
能否按 Agent 任务或会话硬封顶?
可以。v2.7 新增 POST /budget/{id}/cap,kind 为 span 或 session。在 GET /budget/{id}/check 上传 parent_span_id 或 session_id;超额返回 reason=hierarchy_cap。v2.8 增加层级 reserve-confirm:POST /budget/{id}/reserve?parent_span_id= 会原子占用客户余额与 span 封顶池。
Lite 模式支持预算 Webhook 吗?
支持。v2.7 在 /ingest 后无需 Kafka 即可投递 BUDGET_LOW、BUDGET_EXHAUSTED 与 BUDGET_WARN(消耗达 initial_balance + topups 的 70%/90%)。通过 POST /budget/{id}/webhook 配置。
能否按客户 API Key 设置预算?
可以。v2.8 新增 POST /admin/customers/{id}/apikeys/{key_id}/budget。当请求使用该客户 API Key 鉴权时,GET /budget/{id}/check 会在客户钱包之外额外执行按 Key 预算。
如何把用量归因到产品功能或工作流?
v2.8 在 /ingest 接受 metadata 对象(键由 FLUXMETER_USAGE_DIMS 白名单)。用 GET /usage/dim/{key}/{value}?period=YYYY-MM 按功能开关、房间或工作流标签切片查询 — 无需数仓。
FluxMeter 支持哪些 LLM Provider?
内置 OpenAI、Anthropic、Google 模型定价,以及 20 个中国本土模型(DeepSeek、通义千问、GLM、Moonshot、豆包、百川、MiniMax、混元)。Python 和 JS SDK 提供 track_* 辅助函数,可从 Provider 响应自动提取 Token 数量。
什么是 FluxMeter Intelligence?
/intelligence/* 下的处方式商业化 API — 根因分析、单位经济、情景模拟、定价优化、利润看板、预测、告警与报表导出。读取原生用量/成本汇总;收入可来自 OpenMeter 叠加或手动 POST。
FluxMeter 会替代 OpenMeter 或 Langfuse 吗?
不会。FluxMeter 与它们互补:OpenMeter/Lago 负责发票;Langfuse/Helicone 负责可观测性。Intelligence 叠加收入与成本;计量层可导出事件或在热路径拦截。详见 /market-map 市场地图。
Intelligence 的单位经济需要什么数据?
成本来自 FluxMeter 原生摄入汇总。收入需要 OpenMeter 叠加摄入或 POST /intelligence/revenue/{customer_id}。无收入数据的客户返回 status unknown_revenue 及连接提示。
计量层还在维护吗?
是的。实时 token 计量(ingest、计价、客户用量查询、Lite/Full、Gateway)是核心产品。可选硬闸与 Intelligence 建立在相同数据之上 — 不会替代计量。