AgentKit
参数 | 作用 | 取值范围 |
检索参数 | | |
结果返回数量 | 配置最终检索返回的结果数量。
|
|
问题改写 | 启用后,将基于历史对话对本轮问题进行改写,使其具备更完整的语义信息,检索更准确。 说明 改写问题会增加检索时长和额外的 Tokens 消耗。 | 默认关闭 |
重排模型 | 配置是否使用重排模型对检索到的文本片进行重新排序。 打开重排模型则会获得更准确的问题-文本片相似性的评分,提升检索效果。 说明 打开后检索的时间会略有增长,且与召回文本数量成正比,建议合理设置召回文本数量。 |
|
进入重排数量 | 开启“重排模型”后,需配置本参数。用于控制召回的文本片数量,即进入重排模型的文本片数量。 说明 建议召回数量稍大于结果返回数量,可提升检索效果。 | 25 |
更多参数-Dense Weight | 在创建知识库时,如果选择的向量化模型和索引算法支持混合检索,则检索时系统会同时考虑问题与候选文本片的语义相关性和字面上的匹配程度,获得更准确的检索结果。 Dense Weight 参数用于控制检索时语义相似程度的重要性权重,越偏向 1 表示越倾向于语义检索,越偏向 0 则表示越偏向于关键词匹配检索。 | [0.2, 1] |
更多参数-文档聚合排序 | 启用后,将按照原始文档顺序,对召回的切片进行排序聚合,以保证语序和语义正确。 说明 对于参考资料原文语序敏感的场景建议开启;对于切片内容逻辑独立的场景建议关闭。 | 默认开启 |
模型回答参数 | | |
选择模型 | 配置知识库问答时使用的大模型,以及版本、推理接入点、思考深度等。 | -- |
拼接邻近文本片数量 | 取该值作为召回重排后拼接邻近文本片的数量,若召回重排后文本片数为k,该值为p,则最终返回数量范围为[k,k+2kp] | [0, 5] |
文本片参数 | 选择进入大模型的参数和顺序,选择后参数将按顺序拼接 Prompt 进入大模型。 | |
Prompt 配置 | 当打开使用大模型模型生成回答时可设置。
说明 平台也提供了几个核心场景的 Prompt 模板(客服场景、营销索联、思考阐述、模仿回复),您可以根据需要进行选择。 | -- |
引用开源 | 开启后,回答末尾将展示引用的知识切片来源。 | -- |
图文混排 | 开启后,若大模型的参考包含图片,则图片与文本同步显示在回复中。 | -- |
API 调用 | 保存设置后,您可以单击“API 调用”按钮获得 API 调用的请求体,便于您将调试好的设置嵌入您的应用当中。 | -- |