Proton 2.3.19
优化改进
- 兼容老版本Hadoop
FsPermission.toOctal()方法 - 支持HDFS的
dfs.user.home.dir.prefix参数
下载地址
proton-2.3.19-bin.tar.gz
Proton 2.3.18
优化改进
- 重要修复:升级ve-tos-java-sdk到2.9.16,修复TOS普通桶 rename 在特定异常下状态误判影响正确性的问题
下载地址
proton-2.3.18-bin.tar.gz
Proton 2.3.17
优化改进
- 支持 append 接口定时 flush
- 支持指定 bucket 配置加速器接入点
下载地址
proton-2.3.17-bin.tar.gz
Proton 2.3.13
优化改进
下载地址
proton-2.3.13-bin.tar.gz
Proton 2.3.12
优化改进
下载地址
proton-2.3.12-bin.tar.gz
Proton 2.3.11
优化改进
下载地址
proton-2.3.11-bin.tar.gz
Proton 2.3.10
优化改进
- 支持忽略TOS中存在的非法对象路径。
- 适配TOS SetObjectMeta语义调整。
下载地址
proton-2.3.11-bin.tar.gz
Proton 2.3.9
优化改进
下载地址
proton-2.3.9-bin.tar.gz
Proton 2.3.8
优化改进
下载地址
proton-2.3.8-bin.tar.gz
Proton 2.3.7
优化改进
Proton 2.3.6
优化改进
- 支持 Flink 1.11 。
- 优化限流场景 list 。
Proton 2.3.5
优化改进
- 支持 Flink 1.20。
- JobCommitter 支持 Spark statistics 追踪文件大小。
Proton 2.3.4
优化改进
- RawFileSystem 和 CoreFileSystem 使用 cache pool 线程池,空闲线程自动回收。
- 打标功能支持自动解析 OpenAPI endpoint。
Proton 2.3.3
优化改进
- 升级 TOS sdk 到2.9.2,支持 TOS HNS 自适应删除目录。
Proton 2.3.2
优化改进
- k8s 部署2.3去中心化架构 proton 缓存集群。
- 容忍配置的 multipart staging dir 不存在。
下载地址
proton-2.3.2-bin.tar.gz
Proton 2.3.1
优化改进
- 打标接口支持设置请求地址的 scheme。
- FileCredentialsProvider 支持在初次加载文件时增加重试。
- Proton configuration 支持前缀 key,解决 key 冲突问题。
下载地址
proton-2.3.1-bin.tar.gz
Proton 2.3.0
优化改进
下载地址
proton-2.3.0-bin.tar.gz
Proton 2.2.9
优化改进
- TOS 写入支持流控。
- 丰富请求 TOS 携带的 UserAgent 信息。
下载地址
proton-2.2.9-bin.tar.gz
Proton 2.2.8
优化改进
- Job committer 支持生成 manifest 文件。
下载地址
proton-2.2.8-bin.tar.gz
Proton 2.2.7
优化改进
- 去除 CredentialProvider 的冗余 warn 日志。
- 调整 BucketTagNotifier 线程池释放方式。
下载地址
proton-2.2.7-bin.tar.gz
Proton 2.2.5
优化改进
- 修复 DataServer 挂掉后,cachedRanges 重试导致读取变慢的问题。
下载地址
proton-2.2.5-bin.tar.gz
Proton 2.2.4
优化改进
- 修复强一致场景下rename造成的二级索引泄露问题。
- 支持自定义bucket domain。
下载地址
proton-2.2.4-bin.tar.gz
Proton 2.2.3
优化改进
- 禁用普通桶场景下 setOwner, setTime,setAcl 相关功能。
下载地址
proton-2.2.3-bin.tar.gz
Proton 2.2.2
优化改进
下载地址
proton-2.2.2-bin.tar.gz
Proton 2.2.1
优化改进
下载地址
proton-2.2.1-bin.tar.gz
Proton 2.2.0
优化改进
- 缓存模式支持成员变更。
- FileSystem兼容性提升。
- 随机读场景优化。
- 优化对TOS分层桶的支持。
下载地址
proton-2.2.0-bin.tar.gz
Proton 2.1.5
优化改进
下载地址
proton-2.1.5-bin.tar.gz
Proton 2.1.4
优化改进
- 支持单个应用跨Region访问TOS。
- TOS分层桶场景下,支持获取目录修改时间。
下载地址
proton-2.1.4-bin.tar.gz
Proton 2.1.3
优化改进
下载地址
proton-2.1.3-bin.tar.gz
Proton 2.1.2
优化改进
- 优化并发创建父目录的高时延和UpdateConflict问题。
下载地址
proton-2.1.2-bin.tar.gz
Proton 2.1.1
新特性
优化改进
- 新增 RPC 连接超时配置。
- RawFS 支持 fast rename。
- RawFS 支持 fast delete。
- RawFS 支持 fast mkdir。
- TOS 请求携带更多用户信息。
- 一致性 Meta 新增黑白名单。
下载地址
proton-2.1.1-bin.tar.gz
Proton 2.1.0
新特性
- 新增强一致Meta模式。
- 支持K8S部署。
- 新增showcache命令,可以查看文件的实际缓存情况。
- 新增Flink 1.18 plugin。
优化改进
- 优化PageCache内存分配,并优化异步缓存机制。
- 提升FileSystem接口兼容性。
- Client端连接池优化。
下载地址
proton-2.1.0-bin.tar.gz
Proton 2.0.2
优化改进
- 优化缓存模式下对异常节点的处理逻辑。
- 修复socket泄漏问题。
- 优化FileCredentialsProvider在VKE环境中的稳定性。
下载地址
proton-2.0.2-bin.tar.gz
Proton 2.0.1
新特性
- Proton Flink插件支持entropy injection。
- 支持自定义user agent。
优化改进
- fs.listStatus性能优化。
- 默认集成TOS getFileStatus API,提升fs.getFileStatus性能。
下载地址
proton-2.0.1-bin.tar.gz
Proton 2.0.0
新特性
- 支持读写TOS分层桶。
- 支持Flink 1.14。
- 支持通过PyProton访问TOS。
优化改进
- 缓存读性能优化。
- MetaServer性能优化。
- DataServer缓存策略支持Two Queue。
下载地址
proton-2.0.0-bin.tar.gz
Proton 1.9.0
新特性
优化改进
- 缓存读性能优化。
- MetaServer RPC 性能优化。
- RawFS listStatus 性能优化。
下载地址
proton-1.9.0-bin.tar.gz
Proton 1.8.5
新特性
优化改进
- 优化JobCommitter中uncompleted mpu日志打印过多的问题。
- 优化RawFileSystem listStatus性能。
下载地址
proton-1.8.5-bin.tar.gz
Proton 1.8.4
Proton 1.8.4 发布于2024.04.16,主要优化Proton SDK的性能。
优化改进:
- 使用内存替代磁盘文件缓存staging数据,优化小文件写入性能。
- 优化Proton Conf拷贝性能,减少读写过程中关于配置拷贝的性能损耗。
- RawFileSystem支持Statistics功能,支持通过FileSystem Statistics获取读写指标。
下载地址:
proton-1.8.4-bin.tar.gz
Proton 1.8.3
Proton 1.8.3 发布于 2024.04.01。
优化改进:
下载地址:
proton-1.8.3-bin.tar.gz
Proton 1.8.2
Proton 1.8.2 发布于 2024.03.29。
优化改进:
下载地址:
proton-1.8.2-bin.tar.gz
Proton 1.8.1
Proton 1.8.1 发布于 2024.03.23。
修复如下问题:
下载地址:
proton-1.8.1-bin.tar.gz
Proton 1.8.0
Proton 1.8.0 发布于 2024.02.23。
新特性:
- 支持针对不同目录设置黑白名单,更加灵活的控制数据是否需要被缓存到本地。
修复如下问题:
下载地址:
proton-1.8.0-bin.tar.gz
Proton 1.7.0
Proton 1.7.0 发布于 2024.01.03。
新特性:
- 支持元数据自动同步功能(Lazy Meta Sync), 可将对象存储上历史数据的元数据同步到Proton MetaServer中。
- 针对Proton所使用到的网络链接进行复用,提升网络访问速度。
- 优化Cache模式下随机读性能。
修复如下问题:
下载地址:
proton-1.7.0-bin.tar.gz
Proton 1.6.2
Proton 1.6.0 发布于 2023.11.20。
修复如下问题:
下载地址:
proton-1.6.2-bin.tar.gz
Proton 1.6.1
新特性:
- 提供 proton-distcp,支持跨fs,比如hdfs到tos的checksum校验。
- 优化rename语义,减少rename时所消耗的时间。
- 采用分段写入tos时的mulistage dir 支持多目录,以提升写入 tos fs 性能。
- 增加 MetaServer HTTP REST API,可通过WebUI的方式访问meta server,查看服务状态。
- Proton-SDK模式下支持fuse的方式进行挂载。
- 优化解决并发场景下,缓存IAM Credential信息时,创建本地目录失败,多一次网络请求的现象。
下载地址:
proton-1.6.1-bin.tar.gz
Proton 1.6.0
Proton 1.6.0 发布于 2023.11.20。
新特性:
- 针对网络异常引起的 TOS#head unexpected of stream 问题进行重试,提升作业稳定性。
- TOS listObjects 使用 ListV2 接口,提升性能。
- Proton 新增 cli 运维命令(fsck, sync, evict, load data)。
- 优化MetaServer在1000万文件数量下的性能。
下载地址:
proton-1.6.0-bin.tar.gz
Proton 1.5.5
修复如下问题:
- 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
- 针对TOS 限流错误添加重试逻辑,提升任务稳定性。
下载地址:
proton-1.5.5-bin.tar.gz
Proton 1.5.4
修复如下问题:
- 修复并行写入时,偶发会通过Put操作覆盖MPU结果的问题。
下载地址:
proton-1.5.4-bin.tar.gz
Proton 1.5.3
Proton 1.5.3 发布于 2023.11.03。
新特性:
- 提供 fs.tos.acl.default 选项使得用户可以设置子账号写object的 ACL。
修复如下问题:
- 修复cache模式下delete语义不严谨的问题。
下载地址:
proton-1.5.3-bin.tar.gz
Proton 1.5.2
Proton 1.5.2 发布于 2023.11.02。
新特性:
下载地址:
proton-1.5.2-bin.tar.gz
Proton 1.5.1
Proton 1.5.1 发布于 2023.10.30。
新特性:
- 支持用户为对象存储设置自定义的 scheme。
- 优化MetaServer降低机器资源使用。
修复如下问题:
- MetaServer 修改 RPC 部分参数无法生效的问题。
- 优化Spark 生成的 Tasks 数比实际 Tasks 数多 3 倍的问题。
- 修复MPU过程中staging不是线程安全问题。
- 修复JobCommitter 在 CommitJob 阶段写 _SUCCESS 文件失败不会导致作业回滚。
下载地址:
proton-1.5.1-bin.tar.gz
Proton 1.5.0
新特性:
- Client侧支持自动failover,从data server读取数据出错时可以很方便地failover到TOS,提升数据读写任务的健壮性。
- 新增Fuse的支持,可以通过mount的方式将Proton cache挂载到某个目录。
- 新增Meta server监控指标,包括 QPS、latency、RocksDB访问QPS及延迟等。
- Proton CLI支持显示block信息。
- 优化缓存模式的随机读性能。
- Client、data server从底层存储读取数据时,支持校验文件的checksum,保证数据读取一致性。
修复如下问题:
- Batch load元数据时,Ctrl-C无法停止load任务。
- 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
- 针对TOS 限流错误添加重试逻辑,提升任务稳定性。
- 修复文件名中包含空格时,导致无法读取数据的问题。
- 修复上传文件时,运行中切换用户出现的权限问题。
下载地址:
proton-1.5.0-bin.tar.gz
Proton 1.4.3
修复如下问题:
下载地址:
proton-1.4.3-bin.tar.gz
Proton 1.4.2
Proton 1.4.2 发布于 2023.09.26。
新特性:
- 在DataTransfer链路实现Socket Connection Reuse,性能提升20%左右。
- 在DataTransfer侧实现TransferIO,大幅降低数据copy,数据传输性能提升24%左右。
修复如下问题:
- SocketListener stop线程失败的问题。
- ObjectOutputStream 写Part到staging dir的时候权限不足的问题。
下载地址:
proton-1.4.2-bin.tar.gz
Proton 1.4.1
新特性:
- 使用对象存储进行MPU上传时,调整stage目录为可配置。
- 使用ConnectionCache组件优化缓存性能。
- 新增Proton meta server HA模式。
- 用 PacketIter 替换 ChunkIter,以避免过多的小堆对象。
- 使用ByteBuffer替换ByteArray进行性能优化。
修复如下问题:
- 修复从RemoteBlockReader读取数据越界的问题。
下载地址:
proton-1.4.1-bin.tar.gz
Proton 1.4.0
Proton 1.4.0在1.3.0的基础上,做了如下变更:
新特性:
- DataServer支持基于内存的BlockCache。
- DataServer读cache block时添加Block Meta Cache。
- DataServer transfer线程模型优化。
- DataServer默认异步加载block cache。
- 优化PositionRead,采用独立BlockReader。
- 优化proton内部配置转化逻辑,避免过多copy。
- Proton支持metrics。
- Proton命令行支持conf、daemon、loglevel选项。
- 新增audit log,可以方便追逐请求。
修复如下问题:
- 修复部分场景下Proton Committer magic path清理不干净的问题。
- 修复DataServer max transfer thread上限控制问题。
- 修复MetaServer中文解析问题。
下载地址:
proton-1.4.0-bin.tar.gz
Proton 1.3.0
Proton 1.3.0 发布于 2023.08.07,新增Proton cache模式,包含Meta Server 和 Data Server两部分,用户可以选择使用Proton SDK模式,直连TOS,也可以使用Proton Cache模式,将访问TOS的数据进行EMR集群内的缓存,火山EMR集群默认使用Proton SDK方式,如果需要使用缓存模式,需要在可选组件中安装Proton服务,同时针对1.2.2做了如下优化:
- 提升作业运行过程中,访问TOS时,申请临时凭据的稳定性。
- hdfs的core-site的key:
fs.tos.credential.provider.custom.classes 的默认值更新为:io.proton.common.object.tos.auth.EmrSidecarCredentialProvider,io.proton.common.object.tos.auth.EnvironmentCredentialsProvider,io.proton.common.object.tos.auth.SimpleCredentialsProvider,io.proton.common.object.tos.auth.IAMInstanceCredentialsProvider
下载地址:
proton-1.3.0-bin.tar.gz
Proton 1.2.2
Proton 1.2.2版本在1.2.1的基础上做了一下修复。
- 支持checksum接口,例如在distcp下可通过checksum进行一致性检查。
- 修复mkdir -p 创建父目录在hdfs与tos行为不一致的问题。
- 优化sdk性能,按照bucekt粒度,缓存tos client。
下载地址:
eas-sdk-1.2.2.tar.gz
Proton 1.2.1
- 优化稳定性,修复TOS newThreadpool 在hook中的无效close。
下载地址:
eas-sdk-1.2.1.tar.gz
Proton 1.2.0
- 兼容1.1-dev版本的参数,可以在不修改1.1-dev参数的情况下,正常运行。
- 支持集成flink,flink可以通过eas SDK写tos。
- 优化TOS SDK stream close问题,提升读写性能。
下载地址:
eas-sdk-1.2.0.tar.gz
Proton 1.1-dev
1.1-dev为eas的第一个生产可用版本,主要包含以下内容:
- 兼容HDFS FileSystem接口,在不改变用户行为的前提下,实现各个计算引擎,例如Hive,Spark对对象存储TOS中的数据进行读写操作。
- 提供了MR和Spark的Job Committer,极大的提升了对象存储的写入速度。
- 提升流控稳定性,由于访问对象存储有具体的带宽限制,当达到带宽限制后,请求会出现等待,以及超时等问题,eas中对重试做了特殊处理,避免重试发生在作业的Task端,降低带宽限制引起的重试成本。
Proton 2.0.2
优化改进
- 优化缓存模式下对异常节点的处理逻辑。
- 修复socket泄漏问题。
- 优化FileCredentialsProvider在VKE环境中的稳定性。
下载地址
proton-2.0.2-bin.tar.gz
Proton 2.0.1
新特性
- Proton Flink插件支持entropy injection。
- 支持自定义user agent。
优化改进
- fs.listStatus性能优化。
- 默认集成TOS getFileStatus API,提升fs.getFileStatus性能。
下载地址
proton-2.0.1-bin.tar.gz
Proton 2.0.0
新特性
- 支持读写TOS分层桶。
- 支持Flink 1.14。
- 支持通过PyProton访问TOS。
优化改进
- 缓存读性能优化。
- MetaServer性能优化。
- DataServer缓存策略支持Two Queue。
下载地址
proton-2.0.0-bin.tar.gz
Proton 1.9.0
新特性
优化改进
- 缓存读性能优化。
- MetaServer RPC 性能优化。
- RawFS listStatus 性能优化。
下载地址
proton-1.9.0-bin.tar.gz
Proton 1.8.5
新特性
优化改进
- 优化JobCommitter中uncompleted mpu日志打印过多的问题。
- 优化RawFileSystem listStatus性能。
下载地址
proton-1.8.5-bin.tar.gz
Proton 1.8.4
Proton 1.8.4 发布于2024.04.16,主要优化Proton SDK的性能。
优化改进:
- 使用内存替代磁盘文件缓存staging数据,优化小文件写入性能。
- 优化Proton Conf拷贝性能,减少读写过程中关于配置拷贝的性能损耗。
- RawFileSystem支持Statistics功能,支持通过FileSystem Statistics获取读写指标。
下载地址:
proton-1.8.4-bin.tar.gz
Proton 1.8.3
Proton 1.8.3 发布于 2024.04.01。
优化改进:
下载地址:
proton-1.8.3-bin.tar.gz
Proton 1.8.2
Proton 1.8.2 发布于 2024.03.29。
优化改进:
下载地址:
proton-1.8.2-bin.tar.gz
Proton 1.8.1
Proton 1.8.1 发布于 2024.03.23。
修复如下问题:
下载地址:
proton-1.8.1-bin.tar.gz
Proton 1.8.0
Proton 1.8.0 发布于 2024.02.23。
新特性:
- 支持针对不同目录设置黑白名单,更加灵活的控制数据是否需要被缓存到本地。
- Proton性能优化
- DataServer复用读取TOS数据的连接
- MetaServer RocksDB默认参数优化
下载地址:
proton-1.8.0-bin.tar.gz
Proton 1.7.0
Proton 1.7.0 发布于 2024.01.03。
新特性:
- 支持元数据自动同步功能(Lazy Meta Sync), 可将对象存储上历史数据的元数据同步到Proton MetaServer中。
- 针对Proton所使用到的网络链接进行复用,提升网络访问速度。
- 优化Cache模式下随机读性能。
修复如下问题:
proton-1.7.0-bin.tar.gz
Proton 1.6.2
Proton 1.6.2 发布于 2023.11.20。
修复如下问题:
下载地址:
proton-1.6.2-bin.tar.gz
Proton 1.6.1
新特性:
- 提供 proton-distcp,支持跨fs,比如hdfs到tos的checksum校验。
- 优化rename语义,减少rename时所消耗的时间。
- 采用分段写入tos时的mulistage dir 支持多目录,以提升写入 tos fs 性能。
- 增加 MetaServer HTTP REST API,可通过WebUI的方式访问meta server,查看服务状态。
- Proton-SDK模式下支持fuse的方式进行挂载。
- 优化解决并发场景下,缓存IAM Credential信息时,创建本地目录失败,多一次网络请求的现象。
下载地址:
proton-1.6.1-bin.tar.gz
Proton 1.6.0
Proton 1.6.0 发布于 2023.11.20。
新特性:
- 针对网络异常引起的 TOS#head unexpected of stream 问题进行重试,提升作业稳定性。
- TOS listObjects 使用 ListV2 接口,提升性能。
- Proton 新增 cli 运维命令(fsck, sync, evict, load data)。
- 优化MetaServer在1000万文件数量下的性能。
下载地址:
proton-1.6.0-bin.tar.gz
Proton 1.5.5
修复如下问题:
- 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
- 针对TOS 限流错误添加重试逻辑,提升任务稳定性。
下载地址:
proton-1.5.5-bin.tar.gz
Proton 1.5.4
修复如下问题:
- 修复并行写入时,偶发会通过Put操作覆盖MPU结果的问题。
下载地址:
proton-1.5.4-bin.tar.gz
Proton 1.5.3
Proton 1.5.3 发布于 2023.11.03。
新特性:
- 提供 fs.tos.acl.default 选项使得用户可以设置子账号写object的 ACL。
修复如下问题:
- 修复cache模式下delete语义不严谨的问题。
下载地址:
proton-1.5.3-bin.tar.gz
Proton 1.5.2
Proton 1.5.2 发布于 2023.11.02。
新特性:
下载地址:
proton-1.5.2-bin.tar.gz
Proton 1.5.1
Proton 1.5.1 发布于 2023.10.30。
新特性:
- 支持用户为对象存储设置自定义的 scheme。
- 优化MetaServer降低机器资源使用。
修复如下问题:
- MetaServer 修改 RPC 部分参数无法生效的问题。
- 优化Spark 生成的 Tasks 数比实际 Tasks 数多 3 倍的问题。
- 修复MPU过程中staging不是线程安全问题。
- 修复JobCommitter 在 CommitJob 阶段写 _SUCCESS 文件失败不会导致作业回滚。
下载地址:
proton-1.5.1-bin.tar.gz
Proton 1.5.0
新特性:
- Client侧支持自动failover,从data server读取数据出错时可以很方便地failover到TOS,提升数据读写任务的健壮性。
- 新增Fuse的支持,可以通过mount的方式将Proton cache挂载到某个目录。
- 新增Meta server监控指标,包括 QPS、latency、RocksDB访问QPS及延迟等。
- Proton CLI支持显示block信息。
- Client、data server从底层存储读取数据时,支持校验文件的checksum,保证数据读取一致性。
- 支持用户为对象存储设置自定义的 scheme。
- 提供 fs.tos.acl.default 选项使得用户可以设置子账号写object的 ACL。
修复如下问题:
- Batch load元数据时,Ctrl-C无法停止load任务。
- MetaServer 修改 RPC 部分参数无法生效的问题。
- 优化Spark 生成的 Tasks 数比实际 Tasks 数多 3 倍的问题。
- 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
- 针对TOS 限流错误添加重试逻辑,提升任务稳定性。
下载地址:
proton-1.5.0-bin.tar.gz
Proton 1.4.3
优化访问TOS临时凭据的使用方式。
下载地址:
proton-1.4.3-bin.tar.gz
Proton 1.4.2
Proton 1.4.2 发布于 2023.09.26。
新特性:
- 在DataTransfer链路实现Socket Connection Reuse,性能提升20%左右。
- 在DataTransfer侧实现TransferIO,大幅降低数据copy,数据传输性能提升24%左右。
修复如下问题:
- SocketListener stop线程失败的问题。
- ObjectOutputStream 写Part到staging dir的时候权限不足的问题。
下载地址:
proton-1.4.2-bin.tar.gz
Proton 1.4.1
新特性:
- 使用对象存储进行MPU上传时,调整stage目录为可配置。
- 使用ConnectionCache组件优化缓存性能。
- 新增Proton meta server HA模式。
- 用 PacketIter 替换 ChunkIter,以避免过多的小堆对象。
- 使用ByteBuffer替换ByteArray进行性能优化。
修复如下问题:
- 修复从RemoteBlockReader读取数据越界的问题。
下载地址:
proton-1.4.1-bin.tar.gz
Proton 1.4.0
Proton 1.4.0在1.3.0的基础上,做了如下变更:
新特性:
- DataServer支持基于内存的BlockCache。
- DataServer读cache block时添加Block Meta Cache。
- DataServer transfer线程模型优化。
- DataServer默认异步加载block cache。
- 优化PositionRead,采用独立BlockReader。
- 优化proton内部配置转化逻辑,避免过多copy。
- Proton支持metrics。
- Proton命令行支持conf、daemon、loglevel选项。
- 新增audit log,可以方便追逐请求。
修复如下问题:
- 修复部分场景下Proton Committer magic path清理不干净的问题。
- 修复DataServer max transfer thread上限控制问题。
- 修复MetaServer中文解析问题。
下载地址:
proton-1.4.0-bin.tar.gz
Proton 1.3.0
Proton 1.3.0 发布于 2023.08.07,新增Proton cache模式,包含Meta Server 和 Data Server两部分,用户可以选择使用Proton SDK模式,直连TOS,也可以使用Proton Cache模式,将访问TOS的数据进行EMR集群内的缓存,火山EMR集群默认使用Proton SDK方式,如果需要使用缓存模式,需要在可选组件中安装Proton服务,同时针对1.2.2做了如下优化:
- 提升作业运行过程中,访问TOS时,申请临时凭据的稳定性。
- hdfs的core-site的key:
fs.tos.credential.provider.custom.classes 的默认值更新为:io.proton.common.object.tos.auth.EmrSidecarCredentialProvider,io.proton.common.object.tos.auth.EnvironmentCredentialsProvider,io.proton.common.object.tos.auth.SimpleCredentialsProvider,io.proton.common.object.tos.auth.IAMInstanceCredentialsProvider
下载地址:
proton-1.3.0-bin.tar.gz
Proton 1.2.2
Proton 1.2.2 版本在 1.2.1 的基础上做了以下修复:
- 支持 checksum 接口,例如在 distcp 下可通过 checksum 进行一致性检查。
- 修复 mkdir -p 创建父目录在 HDFS 与 TOS 行为不一致的问题。
- 优化 sdk 性能,按照 bucekt 粒度,缓存 TOS Client。
下载地址:

proton-sdk-1.2.2.tar.gz
52.90MB
Proton 1.2.1
- 优化稳定性,修复 TOS newThreadpool 在 hook 中的无效 close。
下载地址:

proton-sdk-1.2.1.tar.gz
52.86MB
Proton 1.2.0
- 兼容 1.1-dev 版本的参数,可以在不修改 1.1-dev 参数的情况下,正常运行。
- 支持集成 Flink,Flink 可以通过 Proton SDK 写 TOS。
- 优化 TOS SDK stream close 问题,提升读写性能。
下载地址:

proton-sdk-1.2.0.tar.gz
52.85MB
Proton 1.1-dev
1.1-dev 为 Proton 的第一个生产可用版本,主要包含以下内容:
- 兼容 HDFS FileSystem 接口,在不改变用户行为的前提下,实现各个计算引擎,例如 Hive,Spark 对对象存储 TOS 中的数据进行读写操作。
- 提供了 MR 和 Spark 的 Job Committer,极大的提升了对象存储的写入速度。
- 提升流控稳定性,由于访问对象存储有具体的带宽限制,当达到带宽限制后,请求会出现等待,以及超时等问题,Proton 中对重试做了特殊处理,避免重试发生在作业的 Task 端,降低带宽限制引起的重试成本。