You need to enable JavaScript to run this app.
文档中心
全栈可观测平台

全栈可观测平台

复制全文
下载 pdf
AI 应用监控实践
MaaS 高代码链路监控
复制全文
下载 pdf
MaaS 高代码链路监控
应用性能监控已经支持方舟开源架构 Arkitect,针对方舟的应用函数,能够自动生成 LLM 相关 Trace 和 Metrics,从而监控智能体的链路。本文从智能体创建到 Trace/Metrics 监控,为您详细介绍 MaaS 高代码链路监控的详细使用流程。
背景信息
应用性能监控与 veFaas 深度集成,部署在 veFaas 的函数只需开启应用监控,即可实现函数监控数据的自动接入。接入后可以实现自动收集 Trace 信息、自动生成 Metric 指标、以及调用链检索、日志检索等功能。
由于 MaaS 高代码的智能体代码实际是部署在 veFaas 中的一个 python 函数,且应用性能监控已经支持方舟开源的框架 Arkitect,因此,同样能够实现函数监控数据的自动接入,自动生成 LLM 相关的 Trace 和 Metrics。
前提条件
  • 已经开通火山方舟服务,以及高代码相关服务,例如:函数服务。
操作步骤
步骤一:部署高代码应用
  1. 登录 火山方舟控制台 大模型平台,在左侧导航栏选择 应用实验室 > 我的应用
  1. 在应用管理页面,单击 创建应用,选择 高代码 方式进行创建。
  1. 根据实际场景配置应用相关信息,包括:自定义应用名称、IAM 角色、应用函数等。其中本场景使用 创建新函数 方式添加应用函数,完成后发布应用。
  1. 在应用函数配置信息,单击 创建新函数,将跳转到函数应用创建页面,根据实际情况配置信息,例如:函数名称、IAM 角色等。完成后单击 创建,将自动部署 veFaaS 应用并创建 veFaaS 函数。
步骤二:开启 AI 应用监控
  1. 登录 函数服务控制台,在左侧导航栏选择 函数,进入函数管理页面。
  1. 根据名称查找步骤一中创建的函数,筛选到目标函数后,单击函数名称,跳转到函数详情页。
  1. 函数配置 页签,编辑 应用监控 信息,启用应用监控,保存后进行发布。应用监控服务启用后,函数的监控数据将投递至应用性能监控,提供指标、链路、日志等一体化监控服务、绘制监控大盘、支持火山方舟高代码应用以及 LangChain 等智能体监控。
步骤三:发起智能体会话
  1. 返回 火山方舟控制台 大模型平台,在左侧导航栏选择 应用实验室 > 我的应用
  1. 查找步骤一中创建的 AI 应用,单击 立即体验,前往智能体交互页面。
  1. 输入问题并发送,智能体将对问题作出回答。此过程产生的指标、链路、日志等监控信息将投递至应用性能监控。
步骤四:AI 应用链路监控
通过 veFaaS 控制台查看链路监控
通过应用性能监控控制台查看链路监控
  1. 登录 函数服务控制台,在左侧导航栏选择 函数,进入函数管理页面。
  1. 根据名称查找步骤一中创建的函数,筛选到目标函数后,单击函数名称,跳转到函数详情页。
  1. 应用监控 页签,切换到 AI 应用 Trace 分析 专栏,通过 Span 属性筛选步骤三中对话相关 Trace。本场景通过对话的输入信息apmplus.entity.input来筛选本次请求的 Trace 信息。
  1. Trace 分析 栏,可查看筛选到的 Trace。将鼠标悬浮在 Input/output 按钮,将自动展示智能体的输入输出信息详情。
  1. 单击 TraceID,支持查看整个 Trace 的完整链路和拓扑图,提供火焰图、列表和拓扑图 3 种方式。
  1. 单击右侧 指标 页签中的 LLM,支持查看当前 Trace 关联的 LLM 指标趋势图。例如: Token 使用量、大模型响应耗时、TPOT、TTFT 等指标。
  1. 在火焰图中选中 ark_runtime.chat Span,可在右侧详细信息的 Attribute 中查看当前对话的输入输出详细信息,继续下拉也可在 Span Tag 中查看更多智能体相关信息,例如:Token 用量,TPOT,TTFT 等。
  1. 在火焰图中选中存在告警的 Span,可在右侧详细信息的 Event 中查看错误堆栈和事件列表相关详细信息,方便链路追踪和故障定位。
  1. 返回 应用监控 页签,在 运行时监控 栏,可查看智能体运行时相关监控信息,例如:CPU 耗时、CPU 使用率、内存使用、GC 对象数量、线程数量、上下文切换数量等。
最近更新时间:2026.01.27 20:58:19
这个页面对您有帮助吗?
有用
有用
无用
无用