You need to enable JavaScript to run this app.
文档中心
E-MapReduce

E-MapReduce

复制全文
下载 pdf
发行版本
Proton 发行版本
复制全文
下载 pdf
Proton 发行版本

Proton 2.3.19

优化改进

  • 兼容老版本Hadoop FsPermission.toOctal()方法
  • 支持HDFS的dfs.user.home.dir.prefix参数

下载地址

proton-2.3.19-bin.tar.gz

Proton 2.3.18

优化改进

  • 重要修复:升级ve-tos-java-sdk到2.9.16,修复TOS普通桶 rename 在特定异常下状态误判影响正确性的问题

下载地址

proton-2.3.18-bin.tar.gz

Proton 2.3.17

优化改进

  • 支持 append 接口定时 flush
  • 支持指定 bucket 配置加速器接入点

下载地址

proton-2.3.17-bin.tar.gz

Proton 2.3.13

优化改进

  • 修复错误信息的显示问题

下载地址

proton-2.3.13-bin.tar.gz

Proton 2.3.12

优化改进

  • 打标url自动解析

下载地址

proton-2.3.12-bin.tar.gz

Proton 2.3.11

优化改进

  • 支持Flink 2.2

下载地址

proton-2.3.11-bin.tar.gz

Proton 2.3.10

优化改进

  • 支持忽略TOS中存在的非法对象路径。
  • 适配TOS SetObjectMeta语义调整。

下载地址

proton-2.3.11-bin.tar.gz

Proton 2.3.9

优化改进

  • 修复MPU限流不生效问题。

下载地址

proton-2.3.9-bin.tar.gz

Proton 2.3.8

优化改进

  • 修复目录桶未开启回收站时误删数据的问题。

下载地址

proton-2.3.8-bin.tar.gz

Proton 2.3.7

优化改进

  • 修复目录桶删除对象时如果异常仍返回成功的问题。

Proton 2.3.6

优化改进

  • 支持 Flink 1.11 。
  • 优化限流场景 list 。

Proton 2.3.5

优化改进

  • 支持 Flink 1.20。
  • JobCommitter 支持 Spark statistics 追踪文件大小。

Proton 2.3.4

优化改进

  • RawFileSystem 和 CoreFileSystem 使用 cache pool 线程池,空闲线程自动回收。
  • 打标功能支持自动解析 OpenAPI endpoint。

Proton 2.3.3

优化改进

  • 升级 TOS sdk 到2.9.2,支持 TOS HNS 自适应删除目录。

Proton 2.3.2

优化改进

  • k8s 部署2.3去中心化架构 proton 缓存集群。
  • 容忍配置的 multipart staging dir 不存在。

下载地址

proton-2.3.2-bin.tar.gz

Proton 2.3.1

优化改进

  • 打标接口支持设置请求地址的 scheme。
  • FileCredentialsProvider 支持在初次加载文件时增加重试。
  • Proton configuration 支持前缀 key,解决 key 冲突问题。

下载地址

proton-2.3.1-bin.tar.gz

Proton 2.3.0

优化改进

  • 支持 DataServer 扩缩容时负载均衡。

下载地址

proton-2.3.0-bin.tar.gz

Proton 2.2.9

优化改进

  • TOS 写入支持流控。
  • 丰富请求 TOS 携带的 UserAgent 信息。

下载地址

proton-2.2.9-bin.tar.gz

Proton 2.2.8

优化改进

  • Job committer 支持生成 manifest 文件。

下载地址

proton-2.2.8-bin.tar.gz

Proton 2.2.7

优化改进

  • 去除 CredentialProvider 的冗余 warn 日志。
  • 调整 BucketTagNotifier 线程池释放方式。

下载地址

proton-2.2.7-bin.tar.gz

Proton 2.2.5

优化改进

  • 修复 DataServer 挂掉后,cachedRanges 重试导致读取变慢的问题。

下载地址

proton-2.2.5-bin.tar.gz

Proton 2.2.4

优化改进

  • 修复强一致场景下rename造成的二级索引泄露问题。
  • 支持自定义bucket domain。

下载地址

proton-2.2.4-bin.tar.gz

Proton 2.2.3

优化改进

  • 禁用普通桶场景下 setOwner, setTime,setAcl 相关功能。

下载地址

proton-2.2.3-bin.tar.gz

Proton 2.2.2

优化改进

  • 添加更多集群监控指标。
  • 优化强一致场景list。

下载地址

proton-2.2.2-bin.tar.gz

Proton 2.2.1

优化改进

  • 修复与logback的集成问题。

下载地址

proton-2.2.1-bin.tar.gz

Proton 2.2.0

优化改进

  • 缓存模式支持成员变更。
  • FileSystem兼容性提升。
  • 随机读场景优化。
  • 优化对TOS分层桶的支持。

下载地址

proton-2.2.0-bin.tar.gz

Proton 2.1.5

优化改进

  • 缓存缺失时,客户端直读 BackendFS。

下载地址

proton-2.1.5-bin.tar.gz

Proton 2.1.4

优化改进

  • 支持单个应用跨Region访问TOS。
  • TOS分层桶场景下,支持获取目录修改时间。

下载地址

proton-2.1.4-bin.tar.gz

Proton 2.1.3

优化改进

  • 优化高并发下HeadBucket的流控问题。

下载地址

proton-2.1.3-bin.tar.gz

Proton 2.1.2

优化改进

  • 优化并发创建父目录的高时延和UpdateConflict问题。

下载地址

proton-2.1.2-bin.tar.gz

Proton 2.1.1

新特性

  • 新增 ProtonAuthorizer 接口。

优化改进

  • 新增 RPC 连接超时配置。
  • RawFS 支持 fast rename。
  • RawFS 支持 fast delete。
  • RawFS 支持 fast mkdir。
  • TOS 请求携带更多用户信息。
  • 一致性 Meta 新增黑白名单。

下载地址

proton-2.1.1-bin.tar.gz

Proton 2.1.0

新特性

  • 新增强一致Meta模式。
  • 支持K8S部署。
  • 新增showcache命令,可以查看文件的实际缓存情况。
  • 新增Flink 1.18 plugin。

优化改进

  • 优化PageCache内存分配,并优化异步缓存机制。
  • 提升FileSystem接口兼容性。
  • Client端连接池优化。

下载地址

proton-2.1.0-bin.tar.gz

Proton 2.0.2

优化改进

  • 优化缓存模式下对异常节点的处理逻辑。
  • 修复socket泄漏问题。
  • 优化FileCredentialsProvider在VKE环境中的稳定性。

下载地址

proton-2.0.2-bin.tar.gz

Proton 2.0.1

新特性

  • Proton Flink插件支持entropy injection。
  • 支持自定义user agent。

优化改进

  • fs.listStatus性能优化。
  • 默认集成TOS getFileStatus API,提升fs.getFileStatus性能。

下载地址

proton-2.0.1-bin.tar.gz

Proton 2.0.0

新特性

  • 支持读写TOS分层桶。
  • 支持Flink 1.14。
  • 支持通过PyProton访问TOS。

优化改进

  • 缓存读性能优化。
  • MetaServer性能优化。
  • DataServer缓存策略支持Two Queue。

下载地址

proton-2.0.0-bin.tar.gz

Proton 1.9.0

新特性

  • 以更细粒度单元管理缓存数据,提升了缓存利用率。

优化改进

  • 缓存读性能优化。
  • MetaServer RPC 性能优化。
  • RawFS listStatus 性能优化。

下载地址

proton-1.9.0-bin.tar.gz

Proton 1.8.5

新特性

  • 支持使用额外配置文件的方式,配置认证信息。

优化改进

  • 优化JobCommitter中uncompleted mpu日志打印过多的问题。
  • 优化RawFileSystem listStatus性能。

下载地址

proton-1.8.5-bin.tar.gz

Proton 1.8.4

Proton 1.8.4 发布于2024.04.16,主要优化Proton SDK的性能。

优化改进:

  • 使用内存替代磁盘文件缓存staging数据,优化小文件写入性能。
  • 优化Proton Conf拷贝性能,减少读写过程中关于配置拷贝的性能损耗。
  • RawFileSystem支持Statistics功能,支持通过FileSystem Statistics获取读写指标。

下载地址:

proton-1.8.4-bin.tar.gz

Proton 1.8.3

Proton 1.8.3 发布于 2024.04.01。

优化改进:

  • 优化Proton SDK Rename性能。

下载地址:

proton-1.8.3-bin.tar.gz

Proton 1.8.2

Proton 1.8.2 发布于 2024.03.29。

优化改进:

  • 优化写文件流程的吞吐与请求效率。

下载地址:

proton-1.8.2-bin.tar.gz

Proton 1.8.1

Proton 1.8.1 发布于 2024.03.23。

修复如下问题:

  • 优化endpoint与uri的解析逻辑。

下载地址:

proton-1.8.1-bin.tar.gz

Proton 1.8.0

Proton 1.8.0 发布于 2024.02.23。

新特性:

  • 支持针对不同目录设置黑白名单,更加灵活的控制数据是否需要被缓存到本地。

修复如下问题:

  • 优化访问TOS过程中的稳定性。

下载地址:

proton-1.8.0-bin.tar.gz

Proton 1.7.0

Proton 1.7.0 发布于 2024.01.03。

新特性:

  • 支持元数据自动同步功能(Lazy Meta Sync), 可将对象存储上历史数据的元数据同步到Proton MetaServer中。
  • 针对Proton所使用到的网络链接进行复用,提升网络访问速度。
  • 优化Cache模式下随机读性能。

修复如下问题:

  • 解决高并发写入情况下偶发缓存空间超限问题。

下载地址:

proton-1.7.0-bin.tar.gz

Proton 1.6.2

Proton 1.6.0 发布于 2023.11.20。

修复如下问题:

  • 解决rename后,源文件父目录不存在的问题。

下载地址:

proton-1.6.2-bin.tar.gz

Proton 1.6.1

新特性:

  • 提供 proton-distcp,支持跨fs,比如hdfs到tos的checksum校验。
  • 优化rename语义,减少rename时所消耗的时间。
  • 采用分段写入tos时的mulistage dir 支持多目录,以提升写入 tos fs 性能。
  • 增加 MetaServer HTTP REST API,可通过WebUI的方式访问meta server,查看服务状态。
  • Proton-SDK模式下支持fuse的方式进行挂载。
  • 优化解决并发场景下,缓存IAM Credential信息时,创建本地目录失败,多一次网络请求的现象。

下载地址:

proton-1.6.1-bin.tar.gz

Proton 1.6.0

Proton 1.6.0 发布于 2023.11.20。

新特性:

  • 针对网络异常引起的 TOS#head unexpected of stream 问题进行重试,提升作业稳定性。
  • TOS listObjects 使用 ListV2 接口,提升性能。
  • Proton 新增 cli 运维命令(fsck, sync, evict, load data)。
  • 优化MetaServer在1000万文件数量下的性能。

下载地址:

proton-1.6.0-bin.tar.gz

Proton 1.5.5

修复如下问题:

  • 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
  • 针对TOS 限流错误添加重试逻辑,提升任务稳定性。

下载地址:

proton-1.5.5-bin.tar.gz

Proton 1.5.4

修复如下问题:

  • 修复并行写入时,偶发会通过Put操作覆盖MPU结果的问题。

下载地址:

proton-1.5.4-bin.tar.gz

Proton 1.5.3

Proton 1.5.3 发布于 2023.11.03。

新特性:

  • 提供 fs.tos.acl.default 选项使得用户可以设置子账号写object的 ACL。

修复如下问题:

  • 修复cache模式下delete语义不严谨的问题。

下载地址:

proton-1.5.3-bin.tar.gz

Proton 1.5.2

Proton 1.5.2 发布于 2023.11.02。

新特性:

  • 支持用户为对象存储设置自定义的 scheme。

下载地址:

proton-1.5.2-bin.tar.gz

Proton 1.5.1

Proton 1.5.1 发布于 2023.10.30。

新特性:

  • 支持用户为对象存储设置自定义的 scheme。
  • 优化MetaServer降低机器资源使用。

修复如下问题:

  • MetaServer 修改 RPC 部分参数无法生效的问题。
  • 优化Spark 生成的 Tasks 数比实际 Tasks 数多 3 倍的问题。
  • 修复MPU过程中staging不是线程安全问题。
  • 修复JobCommitter 在 CommitJob 阶段写 _SUCCESS 文件失败不会导致作业回滚。

下载地址:

proton-1.5.1-bin.tar.gz

Proton 1.5.0

新特性:

  • Client侧支持自动failover,从data server读取数据出错时可以很方便地failover到TOS,提升数据读写任务的健壮性。
  • 新增Fuse的支持,可以通过mount的方式将Proton cache挂载到某个目录。
  • 新增Meta server监控指标,包括 QPS、latency、RocksDB访问QPS及延迟等。
  • Proton CLI支持显示block信息。
  • 优化缓存模式的随机读性能。
  • Client、data server从底层存储读取数据时,支持校验文件的checksum,保证数据读取一致性。

修复如下问题:

  • Batch load元数据时,Ctrl-C无法停止load任务。
  • 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
  • 针对TOS 限流错误添加重试逻辑,提升任务稳定性。
  • 修复文件名中包含空格时,导致无法读取数据的问题。
  • 修复上传文件时,运行中切换用户出现的权限问题。

下载地址:

proton-1.5.0-bin.tar.gz

Proton 1.4.3

修复如下问题:

  • 优化访问TOS临时凭据的使用方式。

下载地址:

proton-1.4.3-bin.tar.gz

Proton 1.4.2

Proton 1.4.2 发布于 2023.09.26。

新特性:

  • 在DataTransfer链路实现Socket Connection Reuse,性能提升20%左右。
  • 在DataTransfer侧实现TransferIO,大幅降低数据copy,数据传输性能提升24%左右。

修复如下问题:

  • SocketListener stop线程失败的问题。
  • ObjectOutputStream 写Part到staging dir的时候权限不足的问题。

下载地址:

proton-1.4.2-bin.tar.gz

Proton 1.4.1

新特性:

  • 使用对象存储进行MPU上传时,调整stage目录为可配置。
  • 使用ConnectionCache组件优化缓存性能。
  • 新增Proton meta server HA模式。
  • 用 PacketIter 替换 ChunkIter,以避免过多的小堆对象。
  • 使用ByteBuffer替换ByteArray进行性能优化。

修复如下问题:

  • 修复从RemoteBlockReader读取数据越界的问题。

下载地址:

proton-1.4.1-bin.tar.gz

Proton 1.4.0

Proton 1.4.0在1.3.0的基础上,做了如下变更:

新特性:

  • DataServer支持基于内存的BlockCache。
  • DataServer读cache block时添加Block Meta Cache。
  • DataServer transfer线程模型优化。
  • DataServer默认异步加载block cache。
  • 优化PositionRead,采用独立BlockReader。
  • 优化proton内部配置转化逻辑,避免过多copy。
  • Proton支持metrics。
  • Proton命令行支持conf、daemon、loglevel选项。
  • 新增audit log,可以方便追逐请求。

修复如下问题:

  • 修复部分场景下Proton Committer magic path清理不干净的问题。
  • 修复DataServer max transfer thread上限控制问题。
  • 修复MetaServer中文解析问题。

下载地址:

proton-1.4.0-bin.tar.gz

Proton 1.3.0

Proton 1.3.0 发布于 2023.08.07,新增Proton cache模式,包含Meta Server 和 Data Server两部分,用户可以选择使用Proton SDK模式,直连TOS,也可以使用Proton Cache模式,将访问TOS的数据进行EMR集群内的缓存,火山EMR集群默认使用Proton SDK方式,如果需要使用缓存模式,需要在可选组件中安装Proton服务,同时针对1.2.2做了如下优化:

  • 提升作业运行过程中,访问TOS时,申请临时凭据的稳定性。
  • hdfs的core-site的key: fs.tos.credential.provider.custom.classes 的默认值更新为:io.proton.common.object.tos.auth.EmrSidecarCredentialProvider,io.proton.common.object.tos.auth.EnvironmentCredentialsProvider,io.proton.common.object.tos.auth.SimpleCredentialsProvider,io.proton.common.object.tos.auth.IAMInstanceCredentialsProvider

下载地址:

proton-1.3.0-bin.tar.gz

Proton 1.2.2

Proton 1.2.2版本在1.2.1的基础上做了一下修复。

  • 支持checksum接口,例如在distcp下可通过checksum进行一致性检查。
  • 修复mkdir -p 创建父目录在hdfs与tos行为不一致的问题。
  • 优化sdk性能,按照bucekt粒度,缓存tos client。

下载地址:
eas-sdk-1.2.2.tar.gz

Proton 1.2.1

  • 优化稳定性,修复TOS newThreadpool 在hook中的无效close。

下载地址:
eas-sdk-1.2.1.tar.gz

Proton 1.2.0

  • 兼容1.1-dev版本的参数,可以在不修改1.1-dev参数的情况下,正常运行。
  • 支持集成flink,flink可以通过eas SDK写tos。
  • 优化TOS SDK stream close问题,提升读写性能。

下载地址:
eas-sdk-1.2.0.tar.gz

Proton 1.1-dev

1.1-dev为eas的第一个生产可用版本,主要包含以下内容:

  • 兼容HDFS FileSystem接口,在不改变用户行为的前提下,实现各个计算引擎,例如Hive,Spark对对象存储TOS中的数据进行读写操作。
  • 提供了MR和Spark的Job Committer,极大的提升了对象存储的写入速度。
  • 提升流控稳定性,由于访问对象存储有具体的带宽限制,当达到带宽限制后,请求会出现等待,以及超时等问题,eas中对重试做了特殊处理,避免重试发生在作业的Task端,降低带宽限制引起的重试成本。

Proton 2.0.2

优化改进

  • 优化缓存模式下对异常节点的处理逻辑。
  • 修复socket泄漏问题。
  • 优化FileCredentialsProvider在VKE环境中的稳定性。

下载地址

proton-2.0.2-bin.tar.gz

Proton 2.0.1

新特性

  • Proton Flink插件支持entropy injection。
  • 支持自定义user agent。

优化改进

  • fs.listStatus性能优化。
  • 默认集成TOS getFileStatus API,提升fs.getFileStatus性能。

下载地址

proton-2.0.1-bin.tar.gz

Proton 2.0.0

新特性

  • 支持读写TOS分层桶。
  • 支持Flink 1.14。
  • 支持通过PyProton访问TOS。

优化改进

  • 缓存读性能优化。
  • MetaServer性能优化。
  • DataServer缓存策略支持Two Queue。

下载地址

proton-2.0.0-bin.tar.gz

Proton 1.9.0

新特性

  • 以更细粒度单元管理缓存数据,提升了缓存利用率。

优化改进

  • 缓存读性能优化。
  • MetaServer RPC 性能优化。
  • RawFS listStatus 性能优化。

下载地址

proton-1.9.0-bin.tar.gz

Proton 1.8.5

新特性

  • 支持使用额外配置文件的方式,配置认证信息。

优化改进

  • 优化JobCommitter中uncompleted mpu日志打印过多的问题。
  • 优化RawFileSystem listStatus性能。

下载地址

proton-1.8.5-bin.tar.gz

Proton 1.8.4

Proton 1.8.4 发布于2024.04.16,主要优化Proton SDK的性能。

优化改进:

  • 使用内存替代磁盘文件缓存staging数据,优化小文件写入性能。
  • 优化Proton Conf拷贝性能,减少读写过程中关于配置拷贝的性能损耗。
  • RawFileSystem支持Statistics功能,支持通过FileSystem Statistics获取读写指标。

下载地址:

proton-1.8.4-bin.tar.gz

Proton 1.8.3

Proton 1.8.3 发布于 2024.04.01。

优化改进:

  • 优化Proton SDK Rename性能。

下载地址:

proton-1.8.3-bin.tar.gz

Proton 1.8.2

Proton 1.8.2 发布于 2024.03.29。

优化改进:

  • 优化写文件流程的吞吐与请求效率。

下载地址:

proton-1.8.2-bin.tar.gz

Proton 1.8.1

Proton 1.8.1 发布于 2024.03.23。

修复如下问题:

  • 优化endpoint与uri的解析逻辑。

下载地址:

proton-1.8.1-bin.tar.gz

Proton 1.8.0

Proton 1.8.0 发布于 2024.02.23。

新特性:

  • 支持针对不同目录设置黑白名单,更加灵活的控制数据是否需要被缓存到本地。
  • Proton性能优化
    • DataServer复用读取TOS数据的连接
    • MetaServer RocksDB默认参数优化

下载地址:

proton-1.8.0-bin.tar.gz

Proton 1.7.0

Proton 1.7.0 发布于 2024.01.03。

新特性:

  • 支持元数据自动同步功能(Lazy Meta Sync), 可将对象存储上历史数据的元数据同步到Proton MetaServer中。
  • 针对Proton所使用到的网络链接进行复用,提升网络访问速度。
  • 优化Cache模式下随机读性能。

修复如下问题:

  • 解决高并发写入情况下偶发缓存空间超限问题。

proton-1.7.0-bin.tar.gz

Proton 1.6.2

Proton 1.6.2 发布于 2023.11.20。

修复如下问题:

  • 解决rename后,源文件父目录不存在的问题。

下载地址:

proton-1.6.2-bin.tar.gz

Proton 1.6.1

新特性:

  • 提供 proton-distcp,支持跨fs,比如hdfs到tos的checksum校验。
  • 优化rename语义,减少rename时所消耗的时间。
  • 采用分段写入tos时的mulistage dir 支持多目录,以提升写入 tos fs 性能。
  • 增加 MetaServer HTTP REST API,可通过WebUI的方式访问meta server,查看服务状态。
  • Proton-SDK模式下支持fuse的方式进行挂载。
  • 优化解决并发场景下,缓存IAM Credential信息时,创建本地目录失败,多一次网络请求的现象。

下载地址:

proton-1.6.1-bin.tar.gz

Proton 1.6.0

Proton 1.6.0 发布于 2023.11.20。

新特性:

  • 针对网络异常引起的 TOS#head unexpected of stream 问题进行重试,提升作业稳定性。
  • TOS listObjects 使用 ListV2 接口,提升性能。
  • Proton 新增 cli 运维命令(fsck, sync, evict, load data)。
  • 优化MetaServer在1000万文件数量下的性能。

下载地址:

proton-1.6.0-bin.tar.gz

Proton 1.5.5

修复如下问题:

  • 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
  • 针对TOS 限流错误添加重试逻辑,提升任务稳定性。

下载地址:

proton-1.5.5-bin.tar.gz

Proton 1.5.4

修复如下问题:

  • 修复并行写入时,偶发会通过Put操作覆盖MPU结果的问题。

下载地址:

proton-1.5.4-bin.tar.gz

Proton 1.5.3

Proton 1.5.3 发布于 2023.11.03。

新特性:

  • 提供 fs.tos.acl.default 选项使得用户可以设置子账号写object的 ACL。

修复如下问题:

  • 修复cache模式下delete语义不严谨的问题。

下载地址:

proton-1.5.3-bin.tar.gz

Proton 1.5.2

Proton 1.5.2 发布于 2023.11.02。

新特性:

  • 支持用户为对象存储设置自定义的 scheme。

下载地址:

proton-1.5.2-bin.tar.gz

Proton 1.5.1

Proton 1.5.1 发布于 2023.10.30。

新特性:

  • 支持用户为对象存储设置自定义的 scheme。
  • 优化MetaServer降低机器资源使用。

修复如下问题:

  • MetaServer 修改 RPC 部分参数无法生效的问题。
  • 优化Spark 生成的 Tasks 数比实际 Tasks 数多 3 倍的问题。
  • 修复MPU过程中staging不是线程安全问题。
  • 修复JobCommitter 在 CommitJob 阶段写 _SUCCESS 文件失败不会导致作业回滚。

下载地址:

proton-1.5.1-bin.tar.gz

Proton 1.5.0

新特性:

  • Client侧支持自动failover,从data server读取数据出错时可以很方便地failover到TOS,提升数据读写任务的健壮性。
  • 新增Fuse的支持,可以通过mount的方式将Proton cache挂载到某个目录。
  • 新增Meta server监控指标,包括 QPS、latency、RocksDB访问QPS及延迟等。
  • Proton CLI支持显示block信息。
  • Client、data server从底层存储读取数据时,支持校验文件的checksum,保证数据读取一致性。
  • 支持用户为对象存储设置自定义的 scheme。
  • 提供 fs.tos.acl.default 选项使得用户可以设置子账号写object的 ACL。

修复如下问题:

  • Batch load元数据时,Ctrl-C无法停止load任务。
  • MetaServer 修改 RPC 部分参数无法生效的问题。
  • 优化Spark 生成的 Tasks 数比实际 Tasks 数多 3 倍的问题。
  • 修复 Spark 3.3.x版本使用log4j2版本,日志不显示的问题。
  • 针对TOS 限流错误添加重试逻辑,提升任务稳定性。

下载地址:

proton-1.5.0-bin.tar.gz

Proton 1.4.3

优化访问TOS临时凭据的使用方式。

下载地址:

proton-1.4.3-bin.tar.gz

Proton 1.4.2

Proton 1.4.2 发布于 2023.09.26。

新特性:

  • 在DataTransfer链路实现Socket Connection Reuse,性能提升20%左右。
  • 在DataTransfer侧实现TransferIO,大幅降低数据copy,数据传输性能提升24%左右。

修复如下问题:

  • SocketListener stop线程失败的问题。
  • ObjectOutputStream 写Part到staging dir的时候权限不足的问题。

下载地址:

proton-1.4.2-bin.tar.gz

Proton 1.4.1

新特性:

  • 使用对象存储进行MPU上传时,调整stage目录为可配置。
  • 使用ConnectionCache组件优化缓存性能。
  • 新增Proton meta server HA模式。
  • 用 PacketIter 替换 ChunkIter,以避免过多的小堆对象。
  • 使用ByteBuffer替换ByteArray进行性能优化。

修复如下问题:

  • 修复从RemoteBlockReader读取数据越界的问题。

下载地址:

proton-1.4.1-bin.tar.gz

Proton 1.4.0

Proton 1.4.0在1.3.0的基础上,做了如下变更:

新特性:

  • DataServer支持基于内存的BlockCache。
  • DataServer读cache block时添加Block Meta Cache。
  • DataServer transfer线程模型优化。
  • DataServer默认异步加载block cache。
  • 优化PositionRead,采用独立BlockReader。
  • 优化proton内部配置转化逻辑,避免过多copy。
  • Proton支持metrics。
  • Proton命令行支持conf、daemon、loglevel选项。
  • 新增audit log,可以方便追逐请求。

修复如下问题:

  • 修复部分场景下Proton Committer magic path清理不干净的问题。
  • 修复DataServer max transfer thread上限控制问题。
  • 修复MetaServer中文解析问题。

下载地址:

proton-1.4.0-bin.tar.gz

Proton 1.3.0

Proton 1.3.0 发布于 2023.08.07,新增Proton cache模式,包含Meta Server 和 Data Server两部分,用户可以选择使用Proton SDK模式,直连TOS,也可以使用Proton Cache模式,将访问TOS的数据进行EMR集群内的缓存,火山EMR集群默认使用Proton SDK方式,如果需要使用缓存模式,需要在可选组件中安装Proton服务,同时针对1.2.2做了如下优化:

  • 提升作业运行过程中,访问TOS时,申请临时凭据的稳定性。
  • hdfs的core-site的key: fs.tos.credential.provider.custom.classes 的默认值更新为:io.proton.common.object.tos.auth.EmrSidecarCredentialProvider,io.proton.common.object.tos.auth.EnvironmentCredentialsProvider,io.proton.common.object.tos.auth.SimpleCredentialsProvider,io.proton.common.object.tos.auth.IAMInstanceCredentialsProvider

下载地址:

proton-1.3.0-bin.tar.gz

Proton 1.2.2

Proton 1.2.2 版本在 1.2.1 的基础上做了以下修复:

  • 支持 checksum 接口,例如在 distcp 下可通过 checksum 进行一致性检查。
  • 修复 mkdir -p 创建父目录在 HDFS 与 TOS 行为不一致的问题。
  • 优化 sdk 性能,按照 bucekt 粒度,缓存 TOS Client。

下载地址:

proton-sdk-1.2.2.tar.gz
52.90MB

Proton 1.2.1

  • 优化稳定性,修复 TOS newThreadpool 在 hook 中的无效 close。

下载地址:

proton-sdk-1.2.1.tar.gz
52.86MB

Proton 1.2.0

  • 兼容 1.1-dev 版本的参数,可以在不修改 1.1-dev 参数的情况下,正常运行。
  • 支持集成 Flink,Flink 可以通过 Proton SDK 写 TOS。
  • 优化 TOS SDK stream close 问题,提升读写性能。

下载地址:

proton-sdk-1.2.0.tar.gz
52.85MB

Proton 1.1-dev

1.1-dev 为 Proton 的第一个生产可用版本,主要包含以下内容:

  • 兼容 HDFS FileSystem 接口,在不改变用户行为的前提下,实现各个计算引擎,例如 Hive,Spark 对对象存储 TOS 中的数据进行读写操作。
  • 提供了 MR 和 Spark 的 Job Committer,极大的提升了对象存储的写入速度。
  • 提升流控稳定性,由于访问对象存储有具体的带宽限制,当达到带宽限制后,请求会出现等待,以及超时等问题,Proton 中对重试做了特殊处理,避免重试发生在作业的 Task 端,降低带宽限制引起的重试成本。
最近更新时间:2026.07.31 11:42:48
这个页面对您有帮助吗?
有用
有用
无用
无用