文档中心

AgentKit

基础监控

查看模型服务监控数据

您可以通过查看模型服务监控数据，掌握服务的请求性能、错误情况与资源消耗状态，辅助开展问题排查与业务优化。

前提条件

已在网关实例中开启日志服务，操作详情请参见开启日志。

查看说明

仅当网关实例处于可用状态时，可查看其监控数据，且查询需遵循以下限制：

单次查询时间范围：最小为近 15 分钟，最大为 1 年。

数据存储时长：默认支持查询过去 90 天内的监控数据，您可按需调整存储时长，详情请参见修改日志存储时间，超出存储时长的数据暂不支持查询。

操作步骤

登录AgentKit控制台。

在顶部导航栏，选择目标模型服务所属的项目和地域。

在左侧导航树，选择“网关 > 模型服务”。

在模型服务页面，单击“监控”页签，查看模型服务监控指标数据。

按 Proxy API Key / Provider 筛选数据

支持通过 Proxy API Key（网关代理密钥）、Provider（模型供应商）对监控数据进行筛选。单击对应下拉框选择筛选目标，两个筛选条件支持组合使用。修改筛选条件后，页面全部监控指标将根据新条件重新加载展示。

按时间范围筛选数据

说明

自定义时间范围仅在当前页面会话内临时生效，退出该页面再次访问时，时间范围将自动恢复为默认值「近 15 分钟」。

默认展示近 15 分钟的监控数据，如需查看其他时间范围内的数据，您可以自定义时间范围，操作如下：

单击图标，打开时间筛选面板。

根据业务需要，选择时间筛选模式，支持相对时间、绝对时间、历史记录三种模式。

相对时间：快速选择预置时间段，例如“近 1 小时”，适用于实时排查、日常巡检、快速观察最近的运行状况变化。

说明

选择相对时间时，还开启「整点时间」开关后，时间范围将按整点自动对齐，便于做周期性对比分析。

绝对时间：指定具体的起止时间（精确到秒），适用于已知具体故障发生时间的精准回溯与复盘。

历史记录：查看并复用之前查询过的时间范围，适用于频繁切换同一时间范围，减少重复设置。

在选定模式下选择对应的时间范围（例如「相对时间 > 近 7 天」），页面将按所选时间范围重新加载监控数据。

自动刷新

自动刷新默认关闭。如需实时观测指标变化，选择“自动刷新关闭”按钮后，单击图标，并选择刷新频率即可开启自动刷新。

说明

自动刷新仅在当前页面会话内临时生效。退出页面再次进入时，自动刷新将恢复为关闭状态。

当前支持的指标

指标名称	单位	说明
输入Tokens	Token	指当前采集周期（例如 15 分钟）内，模型服务接收到的输入内容（Prompt）所消耗的 Token 总数。
缓存Tokens	Token	指当前采集周期（例如 15 分钟）内，模型服务命中Prompt 缓存的 Token 总数，可用于评估缓存命中效果与计费优化空间。
输出Tokens	Token	指当前采集周期（例如 15 分钟）内，模型服务生成的输出内容（Completion）所消耗的 Token 总数。
缓存命中率	%	指当前采集周期（例如 15 分钟）内，模型服务中命中缓存的 Token 占输入 Tokens 的比例，用于衡量 Prompt 缓存的复用效果。
Tokens-供应商维度	Token	指当前采集周期（例如 15 分钟）内，按模型供应商（如火山方舟）统计的 Token 消耗量，用于分析不同供应商的调用占比与成本分布。
Tokens-模型维度	Token	指当前采集周期（例如 15 分钟）内，按模型聚合的 Token 消耗量，用于分析不同模型的调用占比与成本分布。
Tokens-Proxy API Key维度	Token	指当前采集周期（例如 15 分钟）内，按Proxy API Key（网关代理密钥）聚合的 Token 消耗量，用于分析不同调用方 / 业务线的用量与成本归属。
输入Tokens / 分钟	Token/min	指当前采集周期（例如 15 分钟）内，模型服务每分钟平均输入的 Token 数量（TPM，Tokens Per Minute-Input），用于衡量输入侧请求负载与限流参考。
输出Tokens / 分钟	Token/min	指当前采集周期（例如 15 分钟）内，模型服务每分钟平均输出的 Token 数量（TPM，Tokens Per Minute-Output），用于衡量输出侧生成负载与限流参考。
TTFT	ms	TTFT（Time To First Token）指从模型服务收到请求开始，到返回第一个 Token 所经历的时间，用于衡量模型响应的首包延迟，值越小首字响应越快。
TPOT	ms/token	TPOT（Time Per Output Token）指模型在生成阶段每个输出 Token 的平均耗时，用于衡量模型的流式生成速度，值越小生成越快。

最近更新时间：2026.09.04 11:55:46

这个页面对您有帮助吗？

有用

无用