说明
Viking AI 搜索是一款基于生成式 AI 的企业级 AI 搜索产品,基于大模型的多模态语义表征和理解能力,结合字节跳动信息检索领域多年最佳实践,为客户提供开箱即用的 AI 搜索搭建平台服务,帮助客户轻松搭建和集成端到端的多模态图文搜索和推荐能力。
本篇教程将带您了解如何从零开始,一步步创建一个属于您自己的 AI 搜索应用。请按照我们的指引进行操作,您将快速掌握核心的配置流程。
开通AI搜索服务后 ,即可创建一个AI搜索应用。它将作为您后续所有数据配置和体验配置的基础。创建应用演示录屏说明:
Replay
Play
00:00
/
00:24
Live
Fullscreen
Cssfullscreen
1x
成功创建应用后,我们需要为其指定数据来源。这里,我们将演示如何创建一个全新的数据集,让您熟悉完整的操作流程。创建数据集主要包含三个环节:上传数据,配置数据集字段策略,以及(作为可选项)利用大语言模型来生成新字段。
设置数据集名称并上传数据样例用于解析数据字段和生成配置,创建完成可应用于后续配置策略。上传数据演示录屏说明:
Replay
Play
00:00
/
00:48
Live
Fullscreen
Cssfullscreen
1x
- 上传数据,在这里上传一部分数据样本。将帮助系统自动识别数据字段并生成初始配置。请放心,这只是用于配置预览,您可以稍后决定是否将这些数据正式添加入数据集。系统支持两种上传方式,您可点击上传控件下方的切换按钮来选择您偏好的方式:
说明
- 必须包含唯一标识符:每条记录必须包含一个String或Int类型的唯一ID字段,作为检索基础
- 多条数据的schema一致:同名字段格式冲突会导致报错
- 支持多层次数据结构:系统可处理最深3层的嵌套对象,能够有效索引和检索深层属性
- 图片数据上传:您可以上传多个图片字段,字段类型为String或Array<String> ,字段内容为图片URL(或URL列表),请确保URL可公网访问
- 图像资源处理:支持您使用URL引用的方式传入图片,图片需要在专门的JSON属性内上传,建议图片大小控制在5MB以下
- 上传JSONL文件:点击/拖拽JSONL文件,格式需遵循标准的JSONL规范,按行写入多条数据,文件大小不超过10MB。
- 粘贴JSON数据:使用JSON对象(或对象列表Arrayof Objects)格式,粘贴单条或多条物品数据。建议粘贴100条以内数据,请您在输入时必须遵循标准JSON格式,下方的示例展示了我们所要求的标准 JSON 格式:
- 上传/输入完成后,点击下一步,进入配置数据部分。
对关联的数据源进行字段的策略配置,用于控制每个数据字段在搜索中被如何理解与使用。配置字段演示录屏说明:
Replay
Play
00:00
/
00:30
Live
Fullscreen
Cssfullscreen
1x
- 系统已根据上传的样本数据,自动识别并预填了数据集描述、字段名、字段类型、字段用途(如是否可搜索、可筛选、可用于搜索补全)以及是否适用于图搜图等策略。
- 请您检查这些自动生成的配置。您可以依据下方的说明,根据您的具体需求,对字段名、字段类型、解释字段含义、字段属性 以及各项策略(可搜索、可筛选、可补全、图搜图 等)进行调整和确认,以达到理想的搜索应用效果。
- 配置字段描述:字段描述将在生成物品语义表征时起到重要作用,用来去表征字段的语义,建议将搜索、筛选中用到的字段都配置简单的字段描述。
- 配置字段属性:字段属性是定义字段的特殊处理方式,您必须配置一个唯一标识,对于图片类(url)字段,系统将自动提取视觉特征进行多模态理解与匹配,因此正确配置可以显著提升搜索相关性以及多媒体展示效果。
- 配置为可被搜索的字段:字段中的语义信息将包含在物品的语义表征中参与检索,建议将物品的标题、简介、关键词、类型(品类)、价格、图片(如有)等数据 均作为语义信息参与检索。
注意
此字段必须已被标记为“可被搜索的字段”,并且其字段属性需为“图片链接“。
- 勾选此选项即可让该字段中的图片支持被“以图搜图”。您可以根据具体的应用场景来决定:对于数据中所有符合条件的图片链接字段(例如“产品主图”、“用户头像”、“场景照片”等),您可以选择性地启用此功能,从而精确控制哪些类型的图片能够响应用户的图片搜索请求。
- 配置为用于筛选的字段:将字段用作在线搜索时(调用接口时)进行筛选,支持数值类字段(Float, Int),布尔值(Bool),字符串(String)和字符串列表(Array<String>) 。
- 配置为用于搜索补全的字段:如果您希望集成搜索框搜索联想,则可以将数据中的一些文本字段配置为搜索联想(autocomplete)的联想词源,每条数据中选中的字段值都会作为联想词进入索引用于调用搜索联想接口的数据源。支持字符串和字符串列表格式的数据。
- 配置完成后您可以在完成配置按钮旁边勾选是否保存样例数据。
配置完成并生效后,系统会自动进行数据语义信息的分析和索引处理。
说明
什么时候需要?
您希望大模型结合物品内的图文数据去增强和丰富物品数据内容,比如:
- 希望可以使用物品标题 、描述等去生成一些搜索补全词
- 综合物品中的图文数据生成关键词、描述,在返回搜索列表时对用户展示
利用使用大模型合成新字段功能,可在配置数据集时,借助 AI 自动从现有图文数据中创造有价值的新信息。
- 配置数据集时,点击使用大模型合成新字段可选择使用图文数据基于大模型生成新字段。
- 启用此功能后,您只需选择一个增强类型。系统便会据此自动处理数据,并为您建议新字段的名称、来源和描述。请在应用前检查并可按需编辑系统生成的内容,确保新字段的设置精准满足您的需求,从而达到最佳效果。
- 物品描述:使用物品的文本或图片字段生成一段描述性文本(String类型),用于整合物品的多类信息来丰富可检索数据。
- 关键词:使用物品的文本或图片字段生成多个关键词(Array<String>),用于丰富可检索数据。
- Query列表(检索补全词):使用物品的文本或图片字段生成多个query(Array<String>),用于丰富搜索补全数据,或在搜索中进行query-query匹配。
- 当物品中存在图片时(比如商品详情页描述、带文字的图片内容等),建议结合标题、图片一起做来源字段,生成描述和关键词一起参与搜索。
- 点击确定完成配置,配置完成后,可按需将生成的新字段设置为可被搜索的字段、用于筛选的字段和用于补全的字段。
成功配置数据集后,在数据集创建成功提示框中点击继续配置应用,进入应用的数据配置界面。应用配置演示录屏说明:
Replay
Play
00:00
/
00:17
Live
Fullscreen
Cssfullscreen
1x
- 点击生效配置以启动索引构建。待索引完成后,您的应用即可体验基础搜索。
- 若要导入更多数据,请查阅导入数据部分,使用文件上传或 API 方法导入。
至此,您已完成应用创建、数据集配置及数据导入的所有基础步骤。现在,您的 AI 搜索应用已准备就绪,可以开始体验其多模态搜索功能了。您可以在应用页面的体验配置中进行搜索与对话的在线测试。
搜索演示录屏说明:
Replay
Play
00:00
/
00:24
Live
Fullscreen
Cssfullscreen
1x
体验应用的多模态搜索功能时,您可以尝试在搜索框输入文本内容发起查询,或使用其他支持的方式(如上传图片)。
对话演示录屏说明:
Replay
Play
00:00
/
00:54
Live
Fullscreen
Cssfullscreen
1x
测试 AI搜索助手对话交互时,您可以直接使用自然语言进行提问,AI 搜索助手会根据当前数据集的内容来回应您。
如果希望进一步对用户端的搜索体验进行微调(例如搜索结果的展示方式、数量等),请参考我们的配置和体验对话助手章节,那里有关于调整体验参数的详细指南。 在您测试体验配置后,若效果满意,可以点击界面右上角生效当前配置,将其正式部署到线上环境。您可通过调用搜索 API 或对话搜索 API 将具备新配置的搜索服务集成到您的应用中。
数据集配置完成后,如果您希望为其导入更多数据(例如,导入完整数据或进行增量更新),请按以下步骤操作
在这里,您会看到系统提供的两种主要数据导入方式(通过API导入和导入本地JSONL文件),可用于后续的数据添加
- 必须严格遵循标准的 JSONL 规范, 单个上传的 JSONL 文件大小不能超过 10MB
- 在 HTTP 请求 header 中添加 Authorization 为构造的签名字符串,调用数据写入接口导入物品数据
- dataset_ID:创建数据集时控制台自动生成的数据集ID,可在控制台查看
- JSON object array:上传的数据列表,可同时用 JSON object array 的格式上传多条数据。一次支持上传 10000 条数据,总请求体不大于 10MB。注意上传的 JSON 对象必须遵循您创建数据集时定义并保存的 schema。
- 必须包含一个可以作为唯一标识的String或Int类型字段
- 可以上传多个图片字段,字段类型为String或Array<String> ,字段内容为图片URL(或URL列表),请确保URL可公网访问
*图片上传建议
- 您可以通过调用我们提供的特定 API 接口来实现数据的编程方式导入、更新或删除。具体的 API 使用方法、端点、参数及认证方式,请查阅相关的 API 文档。
调用Search接口进行检索
application_id:您创建的应用ID
query文本字符串:用字符串的形式传入用户输入的query文本
image文件:用base64的形式传入用户上传的,用于图片搜索的图片
搜索页码,从 1 开始:搜索页码,可用于列表分页功能,必传项,从 1 开始
每页搜索结果的数量:搜索每页的数据量,必传项
用户ID:上传此次调用对应的用户ID,非必传项
搜索过滤条件:JSON对象格式的过滤语句,在搜索时对召回的物品数据进行过滤筛选,使用前请确认被过滤的字段已经在应用配置中配置为了可筛选字段。过滤在API参数中的传入方式见API参考:Search - 搜索。 指定的数据集ID: 您创建的数据集ID,必传项
接口返回示例:
根据聊天内容,动态处理闲聊,拒答,搜索等意图,再给出合适的用户回复的同时,动态地调用搜索功能并返回搜索到的物品数据。
使用对话搜索功能时,您需要自行维护会话session的唯一标识,每次调用可上传session_id:
- 上传一个新session_id:默认开启一次新的会话。
- 上传已有的session_id:系统自动获取会话历史,并在历史上下文的基础上继续处理用户query。
调用Chat-search接口:
application_id:您创建的应用ID
会话ID:每次对话上传您自己定义的session_id
输入类型:可传入"text"或"image"
(类型为"text"时)Query文本:输入用户的Query文本
(类型为"image"时)图片文件:以base64形式上传Query图片,进行图搜
返回物品列表长度:返回的物品列表长度,可用于分页中每页的数据量,必传项
搜索过滤条件:key是数据集id,value是对应数据集的过滤条件。
- 搜索过滤条件,可根据应用数据源配置中支持过滤的字段对检索内容进行过滤。
- 过滤条件支持must、must_not、range三种查询算子,支持and和or两种逻辑算子,可对查询算子进行组合。
用户ID:上传此次调用对应的用户ID,非必传项
** 对话中进行搜索暂不支持分页
Chat Search接口流式返回数据,每次返回包含以下内容:
会话处理步骤:返回当前的处理步骤,可返回三类:
- "intent recognition":分析意图。
返回意图识别或搜索结果:会话步骤处于意图识别时,可返回意图识别的结果:
会话步骤处于进行搜索阶段时,返回搜索结果详情,格式为一个JSON Object列表,返回物品数据唯一标识和所有字段
返回大模型输出的对话文本内容:流式返回的消息内容,多个请求的content需要拼接才能获取完整的消息。
返回示例:
*说明