You need to enable JavaScript to run this app.
文档中心
全栈可观测平台

全栈可观测平台

复制全文
下载 pdf
AgentKit 应用监控
运行时总览
复制全文
下载 pdf
运行时总览
AI 应用监控可为 AgentKit 上部署的 Agent 提供 Trace 信息自动收集、Metric 指标自动生成、调用链分析、日志检索等全方位观测支持,实时洞悉 Agent 的性能和可靠性。本文为您详细介绍如何查看运行时监控及其相关分析数据。​
背景信息​
AgentKit Runtime 为 Agent 提供一个安全隔离且框架与模型无关的托管式运行时环境,支持基于业务流量自动扩缩容关联 session 实例,支持内置 IAM Role 控制智能体运行时访问云资源的权限。更多详细说明参见:运行时概述。​
前提条件​
已经在 AgentKit 中创建智能体运行时并开启观测能力,详细说明参见:创建智能体运行时。​
操作步骤​
  1. 登录 AI 应用监控,并在顶部导航栏选择项目和地域。​
  1. 在左侧导航栏选择 AgentKit 应用观测。​
  1. 单击 运行时总览,选择数据时间范围,即可查看固定时间段内所有运行时相关汇总信息。包括:运行时概览、运行时列表,除基础数据统计外,还提供会话数、调用数、错误率的监控看板,方便用户直观了解数据健康状况或定位问题。​
​​​
​
指标​
说明​
Runtime 数​
AgentKit 中创建的 Runtime 总数。提供 Runtime 列表,支持查看 Runtime 相关详细信息。​
会话数​
指定时间段内存在调用的会话总数。提供监控看板,方便查看数据趋势。​
Token 消耗数​
指定时间段内调用大模型消耗的 Token 总数,包含输入和输出 Token 数量。​
说明​
AI 应用监控能够追踪 Agent 的大模型调用数据,当 Agent 使用大模型时,即可观测相关数据,更多详细说明参见:模型监控。​
调用数​
指定时间段内所有 Runtime 实例的调用数。提供监控看板,方便查看数据趋势。​
错误数​
指定时间段内发生的失败请求总数。​
错误率​
指定时间段内失败请求数占总调用数的比例,错误率 = 错误数 / 调用数。提供监控看板,方便查看数据趋势。​
​
  1. 单击目标 Runtime 名称或右侧操作列中的 监控详情,并切换到 运行时总览 页签,可查看指定时间内当前运行时的概览信息和趋势看板,方便用户评估单个运行时的健康状态。​
​​​
​
指标​
说明​
会话数​
当前 Runtime 实例在指定时间段内建立的会话总数。​
Token 消耗数​
当前 Runtime 实例在指定时间段内调用大模型消耗的 Token 总数,包括输入和输出 Token 数量。​
调用数​
当前 Runtime 实例在指定时间段内的调用数。​
错误数​
当前 Runtime 实例在指定时间段内发生的失败请求总数。提供监控看板,方便查看数据趋势。​
错误率​
当前 Runtime 实例在指定时间段内失败请求数占总调用数的比例,错误率 = 错误数 / 调用数。​
​
  1. 切换到 运行时监控 页签,可查看指定时间内当前运行时的资源消耗情况。​
​​​
​
指标​
说明​
CPU 耗时​
当前 Runtime 实例在指定时间段内某个时刻消耗的 CPU 时间,包括:用户态 CPU 耗时和内核态 CPU 耗时。CPU 耗时可直观反映当前运行时的执行效率。​
CPU 使用率​
当前 Runtime 实例在指定时间段内某个时刻的 CPU 使用率总和。如果当前运行时同时使用多个 CPU 核心进行计算,最终结果可能大于 100%。​
内存使用​
当前 Runtime 实例在指定时间段内某个时刻的内存使用情况,包括:RSS 内存(Resident Set Size)和 VMS 内存(Virtual Memory Size)。内存使用趋势可用于检测内存分配、识别内存溢出等。​
GC 对象数量​
当前 Runtime 实例在指定时间段内某个时刻的 GC 对象数量,表示垃圾计数器每一代自上次垃圾回收后新增的对象数量,目前分别统计第 0、1、2 代的 GC 对象数量。结合内存数据可用于评估系统稳定性,预防系统崩溃。​
线程数量​
当前 Runtime 实例在指定时间段内某个时刻的线程数量,线程数量趋势可用于发现线程资源瓶颈、优化线程并发度。​
上下文切换数量​
当前 Runtime 实例在指定时间段内某个时刻的上下文切换数量,包括:Voluntary 切换数和 Involuntary 切换数。可结合 CPU 使用情况,分析系统运行性能,优化线程调度等。​
​
  1. 切换到 会话分析 页签,可查看指定时间内当前运行时关联的会话列表和会话相关基本信息。​
可通过 Runtime 名称、会话 ID、用户 ID、耗时等条件进行会话筛选。会话列表支持查看会话相关基础信息,包括:会话 ID、耗时、Total Tokens、Input Tokens、Output Tokens、调用链数、用户 ID、开始时间等。​
​​​
单击目标会话名称或右侧操作列中的 详情,可查看每条调用链的开始时间、Input、Ouput 详细信息,以及 Total tokens、调用链数,调用链 ID、用户 ID、模型名称等详细信息。​
​​​
  1. 返回 Runtime 详情的 Trace 分析 页签,可查看指定时间内当前运行时关联的 Trace 相关详细信息。包括:Span 列表、性能分析、错误传播分析,更多详细说明参见:Trace 分析。​
  • Span 列表:显示当前 Runtime 相关 Trace 列表和 Trace 上报量趋势,支持通过 Span 属性、Trace ID、模型名称、Span 类型、AI Span 类型、接口名等进行数据筛选。除此之外,还支持按照 Total Tokens、Input Tokens、Output Tokens、开始时间和耗时进行排序,用于快速定位错误和慢查询。​
  • 性能分析:聚合服务接口某时间段内符合筛选要求的链路列表,获得调用链中各个节点的耗时数据,可视化展示耗时分布和链路耗时列表,方便用户快速定位性能瓶颈点。至少完善 Span 类型、Runtime名称、接口名 3 个筛选后即可获取性能分析数据。​
  • 错误传播分析:聚合服务接口某时间段内符合筛选要求的链路列表,获得错误节点的可能传播源头以及上下游节点影响,可视化展示错误影响面分析和错误源分析,方便用户快速分析错误的传播情况。至少完善 Span 类型、Runtime名称、接口名 3 个筛选后即可获取性能分析数据。​
​​​
其中,单击 Span 列表中的目标 Trace ID,或单击会话详情中的 调用链 ID,可前往单链路详情查看请求完整链路和 Trace 完整日志。​
切换到单链路详情右下角详细信息页签的 LLM 数据 栏,可查看当前链路调用模型的基础数据,例如:Input/Output 数据,Request 的系统、模型、类型,Response 的模型、Input 缓存命中 Token、Input Token 消耗、Output Token 消耗、总 Token 消耗。​
​​​
切换到单链路详情右下角指标页签的 LLM 栏,可查看当前链路追踪相关的服务以及大模型数据,例如:大模型调用 QPS、大模型调用次数、Token 使用量、大模型响应耗时、TTFT、TPOT 监控看板。​
​​​
  1. 切换到 Runtime 详情的 日志分析 页签,可查看指定时间内当前运行时产生的日志,包括:Runtime 日志、Runtime 构建日志。​
  • Runtime 日志:Runtime 运行过程产生的日志,可用于运行过程的故障排查和行为追踪。提供分词检索,以及通过 Runtime 名称、日志级别、Trace ID 进行数据筛选。​
  • Runtime 构建日志:通过持续交付流水线构建 Runtime 过程的日志,可用于构建过程的故障排查和行为追踪。​
说明​
仅使用 AgentKit-cli 命令行工具创建 Runtime 时,才会生成详细的 Runtime 构建日志,否则内容为空。​
​​​
最近更新时间:2026.01.27 20:57:48
这个页面对您有帮助吗?
有用
有用
无用
无用