本文介绍弹性文件存储 EFS 的功能特性。
EFS 提供两种带宽模式:基线带宽模式和预置带宽模式。
- 场景一:推理场景中,模型权重文件的存储容量通常从几十 GB 到 TB 级不等,但在启动推理服务时需要快速加载到计算节点。例如,1 TiB 的模型权重文件可能需要同时加载到 100 台 GPU 服务器。
- 使用 EFS 高级型基线带宽模式,仅能提供 125MB/s 读带宽,加载完成至少需要近 10 天。
- 使用 EFS 高级型预置带宽模式,预置 200GB/s 带宽,加载完成仅需要 8.5 分钟。
- 场景二:数据预处理场景,文件占用 1PiB 存储容量,需要提供 40GB/s 的读带宽。
- 使用 EFS 高级型基线带宽模式,可提供 30GB/s 读带宽,不能满足业务需求。
- 使用 EFS 高级型预置带宽模式,预置 40GB/s 带宽,其中 1PiB 存储容量可提供 30GB/s 基线带宽,仅需为超出基线带宽部分的 10GB/s 预置带宽付费。
突发带宽功能是为应对临时高带宽需求设计的弹性服务,当基线或预置带宽不足时,可临时获取额外带宽。开启后可动态获取集群空闲带宽资源,性能随负载压力自动伸缩。
推理场景,除了首次批量加载模型权重文件到数十上百台计算节点,在运行过程中还会有临时、少量的节点扩容,新扩容的计算节点同样需要加载模型权重文件。
- 使用 EFS 高级型预置带宽模式,预置 200GB/s 带宽,加载 1TiB 模型权重文件到 100 台 GPU 服务器完成仅需要 8.5 分钟。
- 新节点扩容的时间窗口不可预期,不需要时刻配置 200GB/s 的预置带宽,可以选择降低预置带宽到合理值(例如 30GB/s),并开启突发带宽(配置 60GB/s 上限),满足不可预期的临时高带宽需求。
接入点是 EFS 提供的文件系统目录级访问入口,通过 FSX 访问。您可以为每个目录创建多个接入点,并根据业务需求为这些接入点配置不同的 IAM 策略和权限组,轻松实现不同客户端及不同用户对相同数据集的细粒度权限管理。
通过接入点访问文件系统的优势如下:
- 目录级别的租户隔离:每个接入点均对应一个根目录(对应于文件系统的子目录),通过接入点访问文件系统时,只能访问相应根目录中的数据。
- 细粒度的权限控制:支持基于 IAM 的权限管理方式,您可以为接入点配置 IAM 策略并授权给不同的 IAM 用户或 IAM 角色。
- 简化的权限管理:支持绑定 POSIX 用户信息进行角色扮演,通过接入点访问文件系统时,将使用统一的 POSIX 用户信息对数据进行读写操作。
挂载点是 EFS 提供的文件系统级访问入口,通过 NFS 访问。您可以为 EFS 实例创建多个挂载点,并根据业务需求为这些挂载点配置不同的权限组,轻松实现不同客户端对相同文件系统实例的细粒度权限管理,目前 EFS 支持 NFSv4.1 和 NFSv3 两个协议版本。
通过挂载点访问文件系统的优势是通用性强,NFS 协议是文件存储领域使用最广泛的访问协议,系统兼容性强,几乎可以安装部署在任何 Linux 操作系统上。
目录配额功能可以统计 EFS 文件系统指定目录下的文件数量、存储容量使用量,也可以限制指定目录下的文件数量、存储容量。
- 统计型配额:支持统计功能,统计文件系统指定目录下的文件数量、存储容量使用量。
- 限制型配额:支持统计和限制功能,限制文件系统指定目录下的文件数量、存储容量使用量。
EFS 提供了丰富的监控项,包括文件系统级容量/文件数监控信息、目录级容量/文件数监控信息、文件系统级带宽/IOPS/延时/QPS 性能监控信息、接入点级性能监控信息,您可以全面了解文件系统实例的运行状态。
权限组是 EFS 提供的一种通过 IP 地址或网段对客户端进行细粒度权限管理的机制,权限组需要关联到接入点或挂载点使用。
- 默认权限组:允许可访问挂载点/接入点所属 VPC 的任意 IP 地址以最高权限(可读写且不限制 Linux 系统用户对文件系统的访问权限)访问文件系统。
- 自定义权限组:支持自定义权限组,为指定的客户端 IP 地址或网段授予不同的访问权限(只读、读写),以满足不同场景需求。
数据流动功能支持 EFS 与对象存储 TOS 间的双向数据互通,可将 EFS 中的冷数据沉降至 TOS,也可将 TOS 中的数据预热至 EFS,该功能提供数据流动策略和数据流动任务两种配置方式,满足不同的数据流转与管理需求。
- 数据流动策略:创建策略后,系统会一次性加载策略关联的 TOS 桶或桶前缀内所有文件的元数据到 EFS。当用户或应用通过 EFS 访问文件时,若数据已存在于 EFS,则返回 EFS 中的数据;若数据在 EFS 中不存在,则自动从 TOS 加载数据到 EFS,无需等到加载完成即可实时访问数据。策略支持双向数据流动,可基于配置的预热、沉降或淘汰规则自动执行,遇到同名文件冲突时,默认保持最新文件。
- 数据流动任务:基于用户选择的任务类型和对应的规则,单次执行 EFS 与 TOS 之间的单向数据流动。支持预热任务、沉降任务和淘汰任务,执行预热任务时仅支持同时预热元数据和数据。遇到同名文件冲突时,支持选择跳过同名文件、保持最新文件或覆盖同名文件。