Viking AI 搜索是一款基于生成式 AI 的企业级 AI 搜索产品,基于大模型的多模态语义表征和理解能力,结合字节跳动信息检索领域多年最佳实践,为客户提供开箱即用的 AI 搜索搭建平台服务,帮助客户轻松搭建和集成端到端的多模态图文搜索和推荐能力。 想要体验更多 Viking AI 搜索能力,点击前往:Viking AI 搜索引擎,企业搜推问一体化智能引擎
物品数据集是驱动本平台精准搜索、推荐和对话能力的核心数据基础,适用于构建视频门户网站的智能搜索、媒体库的检索等场景。本章节将为您提供详细的操作指引,帮助您一步步将自有视频数据导入并构建成一个结构化的视频数据集,内容涵盖数据上传、信息配置和策略设定等关键环节。
数据集的准备和创建方式取决于您要导入的数据类型。这个文档核心会介绍视频数据的创建流程,包括数据格式要求、字段映射规则以及常见问题的解决方案。若您想创建图文数据,请查阅 创建物品数据集 - 图文数据。
说明
本章主要聚焦于操作流程。如果您对物品数据集的基本概念、支持的数据格式、各个字段类型的具体定义、参数的详细解释或搜索策略等理论性内容有疑问,请先查阅数据集介绍章节。理解该章节的基础知识将帮助您更顺畅、更有效地完成本章的实践操作。
在您开始上传视频数据集之前,请务必按照以下要求准备您的媒体数据。与图文数据集不同,视频数据集包含若干必须使用固定字段名进行上传的核心字段。因此,在上传操作前,对数据进行核对与调整尤为重要。
您在上传视频数据集之前,请注意以下限制:
说明
- 视频内容层级仅支持2层:即父内容不可以作为某个内容的子内容。如果数据中的某个媒体内容已经作为父层级内容,已包含子层级内容,则为此父内容传入 parent_content_id 会导致处理报错 ,关于视频内容层级的详细介绍,请参考:视频数据集层级。
- 子层级内容乱序:支持使用 sequence_index 传入子层级内容在父层级内容下的序号,当 sequence_index 乱序(两个内容有相同序号、序号未传),数据处理时将忽略顺序信息,可能导致视频内容的先后顺序,影响视频理解。
- 单视频限制在4小时内:不支持处理超出4小时的单视频。
字段名称:必须以字母开头,且只能包含字母、数字和下划线
字段类型:支持JSON schema的以下核心数据类型
- Integer (Array<Integer>) :支持定义Int64和Int32
- Object (Array<Object>):支持字段中包含Object嵌套字段,最多支持三层嵌套关系
字段含义:在智能schema解析阶段,大模型将通过字段名称和采样上传的真实数据来解读字段代表的含义和存储的内容。字段的含义将和字段值一起作为语义信息进入向量表征,可以提升语义搜索过程中更准确地补充字段内容的上下文信息。建议使用中文对字段含义进行简洁的描述。
为确保您的视频数据能够被系统准确高效地处理和索引,请在上传前特别注意按照我们的特定要求准备媒体数据,您必须使用我们预先定义的字段名称进行提交。
请在上传前仔细检查您的数据,确保您的数据集中已包含上述所有必填字段,并且这些字段均已使用了规定的字段名,以保证数据顺利导入和后续功能的正常运行。
除上述固定字段外,您也可以使用自定义字段上传其他元数据(例如:内容标题、视频时长、视频语言等),您可以为其指定任意名称,例如直接使用您数据库中已有的字段名,以简化对接过程。
本起始步骤旨在引导您进入创建数据集页面,并启动创建流程。
- 点击创建数据集,在弹出的弹窗中选择物品数据集,并点击立即创建,您将正式进入创建数据集的流程中。
本步骤中我们将引导您完成新视频数据集的命名,并上传您的样例文件用于解析数据字段和生成配置。
- 上传数据,在这里上传一部分数据样本。将帮助系统自动识别数据字段并生成初始配置。请放心,这只是用于配置预览,您可以稍后决定是否将这些数据正式添加入数据集。系统支持两种上传方式,您可点击上传控件下方的切换按钮来选择您偏好的方式:
*数据规范
- 以下字段为每条数据记录的必填项,您必须提供这些信息,并严格按照规定的字段名进行命名:
- 唯一标识(content_id ):String类型的唯一ID字段,作为检索基础
- 内容类型(content_type):支持上传枚举值,"collection"(媒体系列)和"video"(视频内容)
- 以下字段并非所有情况下都强制要求,但若您的数据包含此类信息,则必须使用我们规定的字段名进行上传:视频链接(video_url),父内容唯一标识(parent_content_id)和子内容顺序信息(sequence_index)
- 多条数据的schema一致:同名字段格式冲突会导致报错
- 支持多层次数据结构:系统可处理最深3层的嵌套对象,能够有效索引和检索深层属性
- 图像资源处理:支持您使用URL引用的方式传入图片,您可以通过名为 cover_image_url 的字段传入图片链接,建议图片大小控制在5MB以下
上传JSONL文件
点击/拖拽JSONL文件,格式需遵循标准的JSONL规范,按行写入多条数据,文件大小不超过10MB。
下方的示例展示了我们所要求的标准 JSONL 格式:
粘贴JSON数据
使用JSON对象 (或对象列表 Array<Objects>) 格式,粘贴单条或多条视频数据。建议粘贴100条以内数据,请您在输入时必须遵循标准JSON格式。
下方的示例展示了我们所要求的标准 JSON 格式:
- 您可以选择是否启用7天后自动删除原始视频文件功能。若启用此功能,系统将在视频内容完成处理与智能理解的 7天后,自动删除您上传的原始视频文件。此举旨在帮助您提升数据安全级别,降低潜在的泄露风险。
平台会根据您上传的样例数据自动识别大部分数据字段,但在某些情况下,您可能需要手动添加字段。平台提供了以下两种方式来手动添加字段:
方法一:字段列表的下方,点击蓝色的+ 添加字段按钮添加新字段。
方法二:对于数据类型为对象 (Object) 或对象数组 (Array<Object>) 的字段,您可以通过点击对应字段行字段名称旁边的 +图标按钮添加该对象(或数组内对象)所包含的各个嵌套字段,并为这些嵌套字段指定名称、类型等信息。
说明
平台目前支持的嵌套对象最大深度为 3 层。
在配置数据集结构的过程中,如果您发现某些字段是多余的、不再需要的,或者是在初始识别时产生的错误字段,您可以将它们从数据结构定义中删除。请注意,删除字段会移除其相关的配置信息。
- 在字段列表中,找到您希望删除的字段。点击该字段所在行最右侧的删除按钮,即可将该字段删除。必传字段不支持删除
系统已根据上传的样本数据,自动识别并预填了数据集描述、字段名、字段类型、字段属性。请您检查这些自动生成的配置。请确保您的字段列表中已正确识别并包含了 content_id(唯一标识)和 content_type(内容类型)这两个核心字段。
注意
字段属性会被下游任务使用,并且一旦配置不支持更改。保存前请确保属性配置的正确性。
与图文数据集相比,视频数据集支持更为丰富的字段属性,能满足更复杂的业务场景需求。
您可以查阅文档字段属性部分,获取关于这些高级属性的详细说明。
配置完成并生效后,系统会自动进行数据语义信息的分析和索引处理。
在完成数据集的基础字段配置后,我们还提供了一项基于 AI 大模型的高级功能——“使用大模型合成新字段”,旨在帮助您进一步挖掘现有数据的潜力,实现数据增强。
这项功能能够根据您数据集中已有的字段生成全新的、具有实际应用价值的文本字段,包括生成图文描述、提取核心关键词或是生成相关的用户查询 (Query) 列表等。这些由 AI 生成的新增字段会直接整合到数据集中,能够有效增强搜索及搜索补全的效果,从而提升数据的整体可发现性和应用价值。
这并非创建数据集的必需步骤,而是一个可选的高级数据优化选项。 如果您对利用 AI 自动丰富数据内容感兴趣,想要了解如何启用、配置并使用这项功能,可以查阅后续的使用大模型合成新字段章节获取详细的操作指南和说明。
视频数据集创建后,您可以在数据集列表中查看到刚创建的数据集。进入数据集详情页,即可查看其基本信息、字段配置和操作历史等内容。
- 创建视频数据集成功后,返回数据集页面可查看刚创建好的物品数据集。
- 在数据集列表中,找到您想要查看的数据集,点击该行操作列中的查看按钮。
- 数据集详情页:进入详情页后,您会看到以下几个关键的标签页:
- 数据配置:在此标签页下,您可以查看和调整当前数据集的各项配置参数。
注意
在此页面对数据集配置进行的修改,会自动同步到已经在您的 AI 搜索应用中关联的物品数据集,但是需要您点击页面右上角的‘更新应用’按钮,并在弹窗中确认,平台才会更新应用内的索引配置。
- 数据详情: 在此标签页下,您可以查看视频数据校验和处理的状态。您也可以查看数据导入和最近更新的时间并预览数据
- 历史记录: 在此标签页下,您可以查看该数据集执行的所有关键操作,例如配置变更、数据导入任务等。您可以在此追踪数据集的变更历史。
- 除了数据集详情页以外,您也可以在数据集列表页中,点击对应数据集所在行操作列历史记录查看数据的历史记录。