- 文档首页
AI 数据湖服务
元数据管理
存储优化与治理
快照清理
快照清理
AI 数据湖服务(LAS)提供多种存储优化功能,通过快照清理等能力帮助用户提升查询性能,优化存储资源。以下是存储优化功能中快照清理功能的详细说明及操作指南。
在数据湖表数据持续写入和更新过程中会产生新的快照与版本。随着版本增加,历史快照及其关联的底层数据文件会持续占用存储空间。快照清理功能根据配置的保留策略,定期或智能清理超出保留范围的历史快照与过期文件,降低存储成本。
注意
快照清理会永久删除超过保留范围且未被标签(Tag)引用的历史版本及关联文件。执行前请确认历史版本不再用于业务回溯、审计或数据恢复。清理后的数据不可恢复。
LAS 提供快照清理存储优化功能。打开开关后,您可以配置快照清理优化任务;配置完成后,系统即可清理历史快照。快照清理支持以下模式:
- 智能模式:与小文件合并共用一个统一开关,开启后系统根据版本增量和保留策略自动选择清理时机,无需人工干预,不支持手动立即执行。快照保留支持按时间和按版本两种方式,默认均保留 14(天/个),可配置为 1~365 的正整数。
- 定时模式:系统按固定周期调度执行,支持手动立即触发。
使用限制
- Lance 表执行智能模式维护任务前,需先绑定可用的 EMR Serverless 队列和计算组。绑定的队列需处于正常状态,计算组所在地域需与目标 catalog 一致。按队列实际 CU 使用量计费。定时模式沿用原 CU 计费规则。具体绑定步骤和说明,请参见:计算资源配置。
- Iceberg 表使用公共队列资源,按公共队列资源使用量计费。
- 开启、关闭功能、修改已有功能配置及切换运行模式需要目标表的 ALTER 权限;
- 绑定或修改维护计算组需要目标表的 ALTER 权限和目标计算组的使用权限;
- 立即执行任务需要目标表的 ALTER 权限和当前计算组的使用权限。
配置快照清理
说明
以下智能模式配置步骤仅适用 Lance 表。
- 登录 LAS 控制台,在顶部右上角根据实际情况选择地域,在左侧导航栏选择 湖管理 > 元数据,选择对应的数据库和数据表,进入表详情页面。
-
- 如果页面提示尚未绑定维护计算组,在弹窗中选择可用的 EMR 队列与计算组并完成绑定,具体操作,请参见:计算资源配置。
- 确认快照保留策略。系统支持按时间保留和按版本保留,默认均为 14;若需修改,可在 执行配置 区域单击快照保留版本/时间旁的编辑图标进行调整,支持 1~365 的正整数。
-
- 开启后,系统将根据版本增量与保留策略自动调度快照清理任务,您可在任务列表中查看调度记录与清理效果。
配置定时模式
说明
定时模式仅适用于此前已开启定时模式的存量 Lance 表,用户可查看并调整定时参数。新建 Lance 表仅支持智能模式,无法新建定时模式任务;存量表一旦关闭定时模式,再次开启只能选择智能模式。
- 登录 LAS 控制台,在顶部右上角根据实际情况选择地域,在左侧导航栏选择 湖管理 > 元数据,选择对应的数据库和数据表,进入表详情页面。
- 在 快照清理 页签,单击右上角的 修改配置,调整配置参数。
-
- 登录 LAS 控制台,在顶部右上角根据实际情况选择地域,在左侧导航栏选择 湖管理 > 元数据,选择对应的 数据库 > 数据表,进入数据表列表页面。
- 在 快照清理 页签,打开快照清理功能,配置快照清理的参数。
-
执行优化任务并查看优化结果
完成快照清理配置后,您可在任务列表中查看任务执行记录与清理前后效果。不同表类型支持的运行模式不同,任务列表也相应区分:
- Lance 表:控制台按 智能模式 和 定时模式 分别提供任务列表。
- 智能模式:任务由系统按版本增量与保留策略自动调度,不支持手动立即执行,您只需在智能模式任务列表中查看调度记录、执行状态与清理效果。
- 定时模式:在未开启周期调度或需要临时执行时,可在定时模式任务列表中手动触发任务立即执行,也可查看历史执行记录与清理效果。
- Iceberg 表:仅支持定时模式,统一在定时模式任务列表中查看任务执行记录与清理效果;在未开启周期调度或需要临时执行时,可手动触发任务立即执行。
-
最近更新时间:2026.10.27 10:16:07