SearchWithMultiModal 用于多模态数据检索。多模态数据检索是指向量数据库支持直接通过图文等多模态数据类型进行检索,且支持模态的组合,如文搜图,图搜图,图搜文+图等。
参数 | 子参数 | 类型 | 是否必选 | 默认值 | 参数说明 |
|---|---|---|---|---|---|
TextObject | Text | string | text 和 image 参数至少需选取其中一个 | 检索的输入文本。 | |
ImageObject | Image | string | text 和 image 参数至少需选取其中一个 | 检索的输入图片,当前支持2种方式:
| |
searchOptions | filter | map | 否 | 过滤条件,详见 filter 表达式说明。
| |
limit | int | 否 | 10 | 检索结果数量,最大5000个。 | |
outputFields | list | 否 | 过滤字段,指定要返回的标量或向量字段列表。
如果索引的距离方式为cosine,向量字段返回的向量是归一化后的向量。 | ||
partition | string/int | 否 | "default" | 子索引名称,类型与 partitionBy 的 fieldType 一致,字段值对应 partitionBy 的 fieldValue。
| |
denseWeight | float | 否 | 0.5 | 对于混合检索,dense_weight 用于控制稠密向量在检索中的权重。范围为[0.2,1]。仅在检索的索引为混合索引时有效。 | |
needInstruction | bool | 否 | 由模型默认值决定,豆包系列模型默认为true,其他模型默认为false | 用于多模态检索场景,对 query 做向量化时是否在 query 前增加 instruction。 | |
scale_k | float64 | 否 | 1 | 检索时的 ef 是索引参数 ef 的 scale_k 倍。默认1,取值范围[0.1, 100],值越大检索结果越精确,但相应地会降低性能。 | |
needReturnVector | bool | 否 | 用于检索返回向量化后的数据。将__VECTOR__字段填充到fields中。 |
运行示例前,请完成以下准备:
- 在 Go 项目中安装并引入 VikingDB SDK;将完整代码保存为
main.go后执行go run main.go。- 将
<YOUR_HOST>、<YOUR_REGION>和<YOUR_SCHEME>替换为地域和访问域名中与实例一致的服务地址、地域和协议。- 将
<YOUR_AK>、<YOUR_SK>替换为火山引擎控制台“密钥管理”中创建的 Access Key ID 和 Secret Access Key;请勿把真实凭证提交到代码仓库。- 将 Collection、Index、Task 等资源占位符替换为控制台中对应资源的名称或接口返回的 ID。若示例包含 TOS 路径,请从 TOS 控制台确认桶名和对象路径,并使用
tos://<YOUR_BUCKET_NAME>/<YOUR_OBJECT_KEY>或文档要求的路径格式。
请在火山引擎控制台的密钥管理页面获取 AK 和 SK,并将示例中的 <YOUR_AK>、<YOUR_SK> 等占位符替换为真实配置。
// 获取指定索引,程序初始化时调用即可,无需重复调用 indexClient := vikingdb.NewIndexClient("<YOUR_COLLECTION_NAME>", "<YOUR_INDEX_NAME>", "api-vikingdb.volces.com", "cn-beijing", "<YOUR_AK>", "<YOUR_SK>", "http")
运行示例前,请将其中的 TOS Bucket、对象路径和本地路径占位符替换为实际值。
// 创建搜索选项,设置限制、文本、图片等参数 searchOpt := vikingdb.NewSearchOptions().SetLimit(5). SetText("这是一个测试"). // 设置文本查询内容 SetImage("tos://{your_bucket}/{your_object}"). // 设置图片查询路径 SetNeedInstruction(false). SetRetry(true) // 启用重试机制 // 执行多模态搜索 datas, err := indexClient.SearchWithMultiModal(searchOpt) if err != nil{ // 错误处理 panic(err) } // 输出查询结果的字段和得分 for _, data := range datas { fmt.Println(data.Fields, data.Score) }
Go 调用执行上面的任务,返回 Data 结构体地址构成的列表([]*Data)。Data 结构体包含的属性如下表所示。
属性 | 说明 |
|---|---|
Id | 主键 id。 |
Fields | 请求返回中的 fields 字段,是具体的数据,map 类型。 |
Score | 表示找到的向量和输入的向量的匹配程度。 |
Text | 文本非结构化检索时返回。 |