研究
AI 用量基础设施全景
面向技术买家的选择性品类模型 — 非穷尽排名、市场份额图或厂商评分卡。
审阅日期:
分类说明
分类为对公开定位的编辑性解读。
1. 研究范围
与 AI 用量计量与商业化基础设施相关的公开产品品类。FluxMeter 定位克制:计量与可选控制优先;启发式 Intelligence 为次要。
2. 品类定义
- 网关
- 在模型上游代理或路由请求;可附带计量钩子。
- 分类为对公开定位的编辑性解读。
- 可观测性
- 追踪、延迟、评测与提示运维 — 回答「跑了什么」。
- 分类为对公开定位的编辑性解读。
- 计量
- 将用量事件归到客户/维度并汇总成本或用量。
- 分类为对公开定位的编辑性解读。
- 预算 / 控制
- 在调用前或调用中允许/拒绝或限额 — 可选层。
- 分类为对公开定位的编辑性解读。
- 计费
- 计划、订阅、权益与发票生命周期。
- 分类为对公开定位的编辑性解读。
- 支付 / 开票交付
- 收款、税务与发票投递 — 常与计费引擎分离。
- 分类为对公开定位的编辑性解读。
3. 基础设施分层
分层用于导航,不是象限或评分。厂商可跨多层。
-
网关与模型接入
4. 代表性项目 / 产品: 自建网关、LiteLLM 类代理、提供商 API
与计量重叠:网关可发出用量事件。
-
可观测性
4. 代表性项目 / 产品: Langfuse、Helicone、LangSmith(代表性)
互补于计量;不是账本。
-
计量与控制
4. 代表性项目 / 产品: FluxMeter;部分计费平台也提供限额余额
FluxMeter 强调 token 计量 + 可选热路径控制。
-
计费与发票
4. 代表性项目 / 产品: OpenMeter、Lago、Metronome、Orb、Stripe Billing(代表性)
用量→发票;与热路径控制不同。
5. FluxMeter 的位置
FluxMeter 主要落在「计量」与可选的「预算/控制」。启发式 Intelligence API 是建立在同一汇总上的次要、可选层 — 不是本全景的组织中心,也不是财务权威账本。
6. 品类重叠
OpenMeter 等产品同时覆盖计量与计费;可观测性产品可能导出用量但不做热路径拦截。不要把每个名称塞进单一排他品类。
7. 选型问题
- 你需要的是发票系统,还是客户级用量查询,或两者?
- 控制必须发生在 LLM 热路径,还是应用侧权益检查即可?
- 计量是否必须与订阅/开票同一系统?
- 导出到外部计费是示例级还是一等集成?
- 可观测性是否被误当成计量或计费?
8. 方法、局限、来源与审阅日期
本全景为选择性且带编辑判断。不评估私有部署、未公开能力、定价、市场份额或厂商性能。所列名称为代表性示例 — 非背书,亦非排他分类。
审阅日期:2026-08-15