计量每一个 token。归因每一笔成本。

面向 AI 网关与多租户产品的开源用量计量 — 按客户看清 token 与成本，无需先搭完整计费套件。

Apache 2.0 · HTTP Custody · Python SDK · OpenAPI · 架构

用量事件 POST /ingest

{
  "customerId": "acme",
  "modelId": "gpt-4o-mini",
  "inputTokens": 1200,
  "outputTokens": 400
}

原始事件

客户用量明细 monthly usage

{
  "customer_id": "acme",
  "bucket": "2026-09",
  "input_tokens": 1200,
  "output_tokens": 400,
  "total_tokens": 1600,
  "cache_read_tokens": 0,
  "reasoning_tokens": 0,
  "event_count": 1,
  "cost_usd": 0.00042
}

客户账本

月度 API 响应示例，使用真实 BucketUsage 字段与数值费用。非实时响应；202 表示接管事件，不代表已结算。示例费用使用引擎 config/pricing.json 中 gpt-4o-mini 目录价（输入 $0.15/MTok，输出 $0.60/MTok）。 GET /usage/customer/acme/period/2026-09

本地快速开始

bash

git clone \
  https://github.com/10kshuaizhang/fluxmeter.git
cd fluxmeter
make demo

无需模型密钥。等待 /ready 后发送唯一事件，轮询校验 1,600 token 与 $0.00042。看到 PASS 才算试用成功。

完整步骤、要求与排错 →

主要场景

为 AI 网关与 Token 中转而建。

一个上游 AI 账号常服务多个下游客户。供应商总量不等于客户级可计费用量。

上游供应商总量

供应商账单 · 单一池

客户级可计费用量

acme · 1600 tok · $0.00042

示意用例

从模型响应到用量明细。

先完成核心计量。控制与导出保持可选。

写入

经 HTTP Custody 的 SDK 或 Gateway。
计价

按模型输入/输出 token 计价。
归因

按客户、账期、模型或 span。
控制 (可选)

检查、预留、对账。
导出 (可选)

用量明细到计费或数仓。
客户级用量记录

单一路径：HTTP Custody。

SDK/Gateway → HTTP Custody → Kafka ACK + identity finalize → Flink 计费/聚合 → Redis 查询 → Usage API。

Supported path

SDK / Gateway

HTTP Custody

Kafka

Flink

Redis

Usage API

make demo 启动唯一支持的完整栈。ClickHouse 是审计冷存，不是计费真相。

make demo = 唯一支持栈
Gateway：estimate → gate → reserve → upstream → Custody
Intelligence 仍为启发式次要能力

引擎 4.8.4。Python SDK 2.0.1 / JS SDK 2.0.0 为仓库版本 — 未复核包索引是否已发布。

在本地跑通按客户用量。

运行 make demo 启动服务并校验客户 token 与费用，无需模型密钥。

跳到快速开始查看源码

演示 compose 可能默认关闭鉴权；对公网或共享环境暴露前请启用 API Key。

想看更多？ Intelligence · 全景 · 对比 · 常见问题

计量每一个 token。 归因每一笔成本。

为 AI 网关与 Token 中转而建。

从模型响应到用量明细。

单一路径：HTTP Custody。

在本地跑通按客户用量。

计量每一个 token。归因每一笔成本。