- 文档首页
对象存储
最佳实践
使用第三方工具访问 TOS
使用 Rclone 访问 TOS
使用第三方工具访问 TOS
使用 Rclone 访问 TOS
使用 Rclone 访问 TOS
Rclone 是一款功能强大的开源命令行工具,支持对接各种云存储系统(包括兼容 S3 协议的对象存储),可用来执行数据上传、下载等操作。本文介绍如何使用 Rclone 工具访问 TOS。
背景信息
前提条件
- 已创建火山引擎账号,并已开通对象存储 TOS 服务。
- 已获取当前账号的 AccessKeyID 和 AccessKeySecret 信息。
说明
您可以登录火山引擎控制台,然后单击右上角头像,选择开发者与工具 > API 密钥管理,即可查看 AccessKeyID 和 AccessKeySecret 信息,更多信息,请参见密钥管理。 步骤一:安装工具
使用 Rclone 访问 TOS 前,您需要先安装工具,本章节介绍在不同操作系统下的安装方式。
- macOS 操作系统(或 Linux 及 BSD 操作系统)
- 本章节以在 macOS 操作系统下安装 Rclone 为例(Linux 及BSD 操作系统下安装命令相同),您可以直接执行如下命令。
- 如果您是在火山引擎 ECS Linux 云主机上安装 Rclone,可以执行如下命令:
步骤二:配置连接信息
本文以火山引擎华北2(北京)区域 TOS 为例,请确保您已准备前提条件中的相关信息,示例如下。
注意
- 请注意 Endpoint 的内外网区别,使用外网 Endpoint 会产生公网访问流量费用。
- 执行如下命令,在 Rclone 工具中配置 TOS 连接。
注意
Rclone 版本不同,配置选项的数字编号可能会不同,请您根据选项的文字描述进行选择。
- 配置完成后,您可以执行如下命令查看当前已存在的连接信息。
注意
- 配置完成后,Rclone 默认会使用 Path 模式访问对象存储,在访问 TOS 时需要您修改为虚拟主机模式。
- Rclone 默认会使用 HTTP2 访问对象存储,在访问 TOS 时需要禁用 HTTP2 模式。
其他:常用操作
安装工具并配置 TOS 连接信息后,您可以执行相应操作。本文介绍您在使用 TOS 过程中的常见命令,例如查看目录、上传文件、查看目录大小等。更多命令介绍,请参见 Rclone 命令。 查看桶或目录
说明
推荐您使用 V2 接口列举对象。相比 V1 接口,V2 接口调用参数更全面,优化了 V1 接口存在的超时问题。您可以通过以下方式使用 V2 接口:
- 在配置文件中设置 list_version = 2。
- 直接在命令后增加 --s3-list-version 2 参数。
上传本地文件
通过使用 rclone copy 命令可将源端数据拷贝到目标端,通用命令格式如下。
- 将本地文件夹中 testdir 中的所有文件复制到 bucket-demo 桶中,并放置到桶根目录下,可执行如下命令。
- 将本地文件夹 testdir 复制到 bucket-demo 桶中,并让 testdir 作为桶内的一级目录,可执行如下命令。
- 当原始文件大于 5GiB(对象存储普通上传接口只支持不超过 5GiB 的文件)或者想要提升大文件上传速率,可执行如下命令调用分片上传参数。
- 增加传输数据并发度可提升传输速率,但是并发越高占用主机资源也会越多,建议执行如下命令灵活调整主机规格。
- 当目的端文件较多时,可执行如下命令直接查找目标文件,而不需要通过目的端文件列表。
说明
--no-traverse 表示不遍历目的端文件。
- 可执行如下命令保存文件传输过程中的日志文件,支持 DEBUG|INFO|NOTICE|ERROR (default "NOTICE")。
同步本地目录
当您需要同步增量数据到目标端(包括新增文件和被修改过的文件)时,可使用 rclone sync 命令。
警告
该命令会修改目标端数据,使得目标端和源端数据完全一致,即可能会删除目标端某些数据,请谨慎操作。
如果您需要让桶内 testdir 文件夹中数据和本地文件夹 testdir 完全一致,可执行如下命令。
查看目录大小
如果您需要统计桶或者目录下的文件个数和总容量,可执行 rclone size 命令。
- 例如您需要统计 bucket-demo 桶中的文件总数和容量大小,可执行如下命令。
- 例如您需要统计 bucket-demo 桶中 testdir 文件夹的文件总数和容量大小,可执行如下命令。
文件比对校验
如果您需要比对源端和目标端的数据,可执行 rclone check 命令。
可选参数如下:
常见问题
- 使用 rclone 工具上传对象时发现速率无法提升,是什么原因?
- 这种情况可能是 rclone 的使用姿势不对,您可以尝试携带跳过数据检查的参数 --no-check-dest 和 --no-traverse,确认能否提升上传速率。更多关于 rclone 的参数说明,请参见 rclone global flags。
- 使用 rclone 工具上传对象时,报错 Forbidden path to access server 怎么办?
- 对象存储不支持 Path Style 形式访问,应使用 Virtual Style 形式(即虚拟主机访问方式)访问。目前第三方 SDK 默认仍使用 Path Style 形式访问,所以会产生此问题。Path 和 VirtualHost 的区别主要在于 HTTP URL 中桶名的位置,如下所示:
最近更新时间:2026.09.10 18:52:08