NEWS / 01 · AI 工具 / TOKEN 成本

AI OBSERVABILITY

OpenRouter 上线 AI 用量分析工具:
Token、缓存与模型成本可下钻到单次请求。

当一个团队同时运行多个模型、多个智能体和多条自动化流程时,“这个月花了多少钱”已经不够回答问题。更关键的是:哪一个 agent、哪一类任务、哪一个 API key 正在消耗预算,以及缓存和回退策略是否真的生效。OpenRouter 在 8 月 17 日公布的 Activity 仪表盘与 Beta Analytics API,正是为这类可追踪性问题提供一套可下钻的观察入口。

从总览指标进入单次请求

官方介绍的 Activity 仪表盘可以按 agent、model 和 request 查看支出、请求数、Token 量、缓存命中率以及每百万 Token 的混合成本。Explore 视图还支持按模型、提供商、API key、应用、用户、工作区和会话等维度筛选,让成本不再停留在账户级别的总数。

更有价值的是日志下钻:图表中的异常点可以继续追到单次 generation,查看上游推理、缓存、路由回退、延迟和 Token 明细。对于中转层来说,这意味着“模型变慢”或“账单突然变高”可以被拆成具体请求,而不是依赖人工猜测。

Analytics API 把观察接入工作流

OpenRouter 同时给出 GET /api/v1/analytics/metaPOST /api/v1/analytics/query 的接口形态。前者用于确认可用的指标和维度,后者执行分析查询。官方说明查询需要 management key,因此权限边界和密钥管理应与普通推理 key 分开。

  • 指标覆盖支出、请求数、Token、缓存命中率和混合成本。
  • Explore 支持从模型、供应商、key、应用、用户、工作区和会话等维度筛选。
  • 单次 generation 日志可观察回退路径、延迟与 Token 明细。
  • 官方内部示例称某预览模型月度消耗约 6200 美元,98% 消耗追溯到单一批处理 key;该数字属于官方示例,不是独立审计结果。

TopoReduce 编辑观察

对 AI 编程工具和 API 中转服务而言,可观测性不是后台附属功能,而是路由策略的一部分。只有把模型、任务、Token、缓存和回退事件串起来,团队才有机会设置预算告警、比较模型真实成本,并在故障复盘后调整默认路由。

下一步的工程重点会从“接入更多模型”转向“让每次调用都可解释”。这也是中转站从简单转发层升级为可治理基础设施的分界线。

数据与原文AIHOT 条目:OpenRouter Activity 仪表盘与 Analytics API官方原文:OpenRouter Activity Dashboard
← 返回 News 列表下一篇:统一图像 API →

把调用数据变成系统能力。

了解 TopoReduce 的模型路由、工具集成与 API 中转服务。

建立合作连接