跳到主要内容
FluxMeter
English

开源 AI 用量计量 · v4.4.1

计量每一个 token。 归因每一笔成本。

面向 AI 网关与多租户产品的开源用量计量 — 按客户看清 token 与成本，无需先搭完整计费套件。

用 make demo 本地运行 在 GitHub 查看

Apache 2.0 · HTTP Custody · Python SDK · OpenAPI · 架构

用量事件经归因与计价后成为客户用量明细。
用量事件 POST /ingest 
{
  "customerId": "acme",
  "modelId": "gpt-4o-mini",
  "inputTokens": 1200,
  "outputTokens": 400
}

原始事件

客户用量明细 usage line 
{
  "customer_id": "acme",
  "period": "2026-08",
  "input_tokens": 1200,
  "output_tokens": 400,
  "tokens": 1600,
  "cost_usd": "0.00042"
}

客户账本

已验证的 camelCase 写入与 snake_case 用量字段。非实时后端。 示例费用使用引擎 config/pricing.json 中 gpt-4o-mini 目录价（输入 $0.15/MTok，输出 $0.60/MTok）。

本地快速开始

bash
git clone \
  https://github.com/10kshuaizhang/fluxmeter.git
cd fluxmeter
make demo

主要场景

为 AI 网关与 Token 中转而建。

一个上游 AI 账号常服务多个下游客户。供应商总量不等于客户级可计费用量。

上游供应商总量

供应商账单 · 单一池

客户级可计费用量

acme · 1600 tok · $0.00042

示意用例

从模型响应到用量明细。

先完成核心计量。控制与导出保持可选。

  1. 写入

    经 HTTP Custody 的 SDK 或 Gateway。

  2. 计价

    按模型输入/输出 token 计价。

  3. 归因

    按客户、账期、模型或 span。

  4. 控制 (可选)

    检查、预留、对账。

  5. 导出 (可选)

    用量明细到计费或数仓。

  6. 客户级用量记录

单一路径：HTTP Custody。

SDK/Gateway → HTTP Custody → Kafka ack → Flink 计费/聚合 → Redis 查询 → Usage API。

Supported path

make demo 启动唯一支持的完整栈。ClickHouse 是审计冷存，不是计费真相。

  • make demo = 唯一支持栈
  • Gateway：estimate → gate → reserve → upstream → Custody
  • Intelligence 仍为启发式次要能力

引擎 4.4.1。Python/JS SDK 2.0.0 为仓库版本 — 未复核包索引是否已发布。

在本地跑通按客户用量。

运行 make demo 启动支持栈。经 Usage API 从 Redis 查询用量。

跳到快速开始 查看源码

演示 compose 可能默认关闭鉴权；对公网或共享环境暴露前请启用 API Key。

想看更多？ Intelligence · 全景 · 对比 · 常见问题