文档中心

全栈可观测平台

通用 AI 应用监控

LLM 会话分析

LLM 会话分析

AI 应用监控针支持对大模型（Large Language Model，LLM）应用进行观测，为 LLM 应用安装自研的 Python 探针后，可查看 LLM 应用在指定时间段内满足特定查询条件的会话列表、会话详情以及大模型链路相关 Trace 详情。本文为您详细介绍如何查看大模型会话分析，以及管理会话数据。

前提条件

已经将 LLM 应用接入应用性能监控并开启自动埋点，具体操作参见：Python 应用接入。

查看会话详情

步骤一：接入大模型会话分析

成功接入并开启自动埋点后，确保已经能够自动完成对 LLM 应用的埋点和监控，正常产生对应的大模型 Trace 和 Metrics 的前提下，在代码侧传入会话分析相关的 metadata，即 session_id 和 user_id。以 Langchain 为例，调用 chain/agent 时，手动将 session_id、user_id 写入 config.metadata 中，示例代码如下：

说明

session_id 和 user_id 允许使用任意用于标识会话的字符串，相同 session_id 将被识别为同一个会话。

# Your existing Langchain code to create the chain.​
... ​
​
# Pass session_id/user_id as metadata to the chain invocation.​
chain.invoke(​
    {"animal": "dog"}, # your input​
    config={​
        "metadata": {​
            "session_id": "your-session-id",​
            "user_id": "your-user-id",​
        },​
    },​
)​

步骤二：查看大模型会话数据

登录 AI 应用监控，并在顶部导航栏选择项目和地域。

在左侧导航栏选择会话分析，前往 LLM 会话列表。

根据工作区、时间范围、标签，以及会话 ID、Token 总数、用户 ID 等条件筛选会话，查询目标会话列表。会话列表支持查看会话相关基础信息，包括：会话 ID、耗时、Token 数、Input 数、Output 数、调用链数、用户 ID、开始时间等。

单击目标会话名称或右侧操作列中的详情，可在会话数据页签查看该会话的会话数据，包括Total tokens、调用链数，以及每条调用链的开始时间、Input、Ouput、调用链 ID、用户 ID、Token 数、模型名称等详细信息。

单击调用链 ID，可跳转到 LLM Trace 分析页面，查看大模型链路分析详细信息。链路分析相关详细介绍参见：链路分析。

步骤三：查看洞察明细

在洞察明细页签，可查看该会话的洞察详情，包括洞察时间、洞察结果、评估原因和关联的洞察任务等信息。单击任务名称，可跳转至任务详情页查看任务信息，更多说明请参见：洞察任务。

导出会话数据

会话分析提供数据导出操作，不仅支持导出会话列表数据，而且支持导出目标会话的调用链详细数据。

导出会话列表数据

导出会话详情数据

前往会话管理页面，勾选需要导出的会话，单击页面右上角导出按钮，根据会话列表将会话相关基础信息数据导出到 CSV 文件中。

说明

每次最多导出 100 条数据。

会话诊断

临时使用当前会话的 Trace 和 Session 数据进行诊断分析，并给出详细的诊断报告。

前往会话分析列表，单击目标会话右侧操作列中的会话诊断，确认弹窗提醒，将跳转到观测诊断页面，并自动开始会话诊断任务。

任务状态为“已完成”时，表示诊断完成并成功生成报告。单击目标诊断任务右侧操作列中的查看报告，查看会话的详细诊断报告。更多详细说明参见：观测诊断。

最近更新时间：2026.09.16 10:23:29

这个页面对您有帮助吗？

有用

有用

无用

无用