指标 | 说明 |
Runtime 数 | AgentKit 中创建的 Runtime 总数。提供 Runtime 列表,支持查看 Runtime 相关详细信息。 |
会话数 | 指定时间段内存在调用的会话总数。提供监控看板,方便查看数据趋势。 |
Token 消耗数 | 指定时间段内调用大模型消耗的 Token 总数,包含输入和输出 Token 数量。 说明 |
调用数 | 指定时间段内所有 Runtime 实例的调用数。提供监控看板,方便查看数据趋势。 |
错误数 | 指定时间段内发生的失败请求总数。 |
错误率 | 指定时间段内失败请求数占总调用数的比例,错误率 = 错误数 / 调用数。提供监控看板,方便查看数据趋势。 |
指标 | 说明 |
会话数 | 当前 Runtime 实例在指定时间段内建立的会话总数。 |
Token 消耗数 | 当前 Runtime 实例在指定时间段内调用大模型消耗的 Token 总数,包括输入和输出 Token 数量。 |
调用数 | 当前 Runtime 实例在指定时间段内的调用数。 |
错误数 | 当前 Runtime 实例在指定时间段内发生的失败请求总数。提供监控看板,方便查看数据趋势。 |
错误率 | 当前 Runtime 实例在指定时间段内失败请求数占总调用数的比例,错误率 = 错误数 / 调用数。 |
指标 | 说明 |
CPU 耗时 | 当前 Runtime 实例在指定时间段内某个时刻消耗的 CPU 时间,包括:用户态 CPU 耗时和内核态 CPU 耗时。CPU 耗时可直观反映当前运行时的执行效率。 |
CPU 使用率 | 当前 Runtime 实例在指定时间段内某个时刻的 CPU 使用率总和。如果当前运行时同时使用多个 CPU 核心进行计算,最终结果可能大于 100%。 |
内存使用 | 当前 Runtime 实例在指定时间段内某个时刻的内存使用情况,包括:RSS 内存(Resident Set Size)和 VMS 内存(Virtual Memory Size)。内存使用趋势可用于检测内存分配、识别内存溢出等。 |
GC 对象数量 | 当前 Runtime 实例在指定时间段内某个时刻的 GC 对象数量,表示垃圾计数器每一代自上次垃圾回收后新增的对象数量,目前分别统计第 0、1、2 代的 GC 对象数量。结合内存数据可用于评估系统稳定性,预防系统崩溃。 |
线程数量 | 当前 Runtime 实例在指定时间段内某个时刻的线程数量,线程数量趋势可用于发现线程资源瓶颈、优化线程并发度。 |
上下文切换数量 | 当前 Runtime 实例在指定时间段内某个时刻的上下文切换数量,包括:Voluntary 切换数和 Involuntary 切换数。可结合 CPU 使用情况,分析系统运行性能,优化线程调度等。 |