概念 | 说明 |
记忆召回 | 记忆召回是指智能体在处理新请求时,根据当前上下文,从记忆库中检索、匹配并提取相关历史记忆(例如对话历史、用户偏好、专属信息等)的过程,是记忆 “出库” 的核心环节,相关监控通常用于观察召回调用规模、平均延迟与错误率。 |
创建事件 | 创建事件是指智能体在与用户交互或执行任务过程中,从海量原始数据中筛选、提炼出有价值信息,并将其存入记忆库的过程,是记忆 “入库” 的前置环节,相关监控通常用于观察写入链路是否稳定、延迟是否异常。 |
功能 | 说明 |
从智能体运行状态和实例资源两大维度监控智能体运行基础指标,支持查看“请求次数”、“请求分布”、“平均延迟”、“实例数量”等关键指标数据,直观掌握智能体整体运行负载与监控状况。 | |
针对工具与工具实例资源进行指标监控,支持查看“请求次数”、“请求分布”、“CPU 使用率”、“实例数量”等基础指标,便于观测工具调用规模与实例资源使用情况。 | |
提供记忆库相关运行指标监测,覆盖记忆创建事件和记忆召回场景,支持查看“API 调用次数”、“平均延迟”、“总错误率”,可用于评估记忆库服务的可用性与响应性能。 | |
针对 MCP 服务采集基础运行指标,包含“请求次数”、“请求分布”、“平均延迟”等指标,可用于分析 MCP 服务调用性能与稳定性。 | |
针对 MCP 工具集运行指标进行监控,支持查看“语义检索请求次数”、“标签检索请求次数”、“工具索引数”等,可用于评估工具检索效率与工具索引规模。 | |
针对网关实例请求处理与流量指标进行监控,支持查看“QPS”、“请求次数”、“入口/出口总带宽”、“入口/出口公网带宽”等关键指标数据,直观掌握网关实例的请求负载、响应性能与流量吞吐情况。 | |
针对模型服务采集 Token 消耗与生成性能指标,支持按“Proxy API Key”、“模型”查看“输入/输出 Tokens”、“缓存命中率”、“TTFT”、“TPOT”等指标,可用于评估模型调用成本、生成延迟与流式响应性能。 |
观测类型 | 典型异常 |
基础监控 | 请求量突降或突增 平均延时持续抬升 错误率突然升高 实例数量异常波动 索引量或检索请求异常变化 |
应用观测 | 调用链路中断 埋点事件缺失 业务指标断崖式下降 核心步骤耗时异常 埋点字段上报不完整 |
日志 | 请求量突降或突增 服务不可用 / 5xx 集中出现 索引量或检索请求异常变化 网络异常 / 连接超时 错误率突然升高 实例数量异常波动 |