本文介绍在 Dataleap New IDE 中创建和编辑 Pipeline 的完整流程,涵盖 DAG 画布编辑器的使用、基本信息配置、调度与依赖设置、参数与变量管理以及配置验证。
DAG 画布编辑器是 Pipeline 可视化编排的核心界面,提供拖拽式的工作流搭建体验。
操作 | 说明 |
|---|---|
添加节点 | 点击添加节点按钮,选择需要的节点类型。 |
建立依赖 | 从上游节点的输出锚点拖拽连线到下游节点的输入锚点。 |
删除节点 | 选中节点后按删除按钮。 |
删除连线 | 选中连线后按 Delete 键。 |
节点配置 | 点击节点,打开节点配置面板。 |
画布缩放 | 滚轮缩放、或使用底部工具栏的缩放按钮。 |
画布平移 | 按住空格键拖拽画布。 |
全选 |
|
撤销/重做 |
|
可用的 Activity 类型:
类别 | 包含节点 |
|---|---|
计算节点 | Notebook、SQL、Jar、Copy Data |
控制节点 | If/Else、For Each、Until/Do While、Execute Pipeline |
数据感知节点 | Checker |
变量节点 | Set Variable |
创建 Pipeline 后需配置以下基本信息:
配置项 | 字段 | 说明 |
|---|---|---|
Pipeline 名称 |
| 唯一标识名,只包含字母、数字和下划线,长度不超过 127。发布后不建议修改。 |
描述 |
| Pipeline 的用途说明。 |
展示名称 |
| 用于界面展示,支持中文和特殊字符,最长 255 字符。 |
执行身份 |
| 格式为 |
调度资源组 |
| 指定调度引擎使用的资源组。 |
metadata.name 在项目内唯一,发布时系统自动维护 name 与发布态 Pipeline ID 的映射。.pipeline.yml 文件中 metadata.name 相同,它们发布时会发布到同一个 Pipeline。name(修改会导致发布为新的 Pipeline)。spec.displayName 字段,修改展示名称。调度与依赖配置的相关说明,请参见调度配置。
参数与变量配置的相关说明,请参见参数配置规则。
Pipeline 在保存和发布前需通过配置验证,确保运行时不会出现低级错误。
验证项 | 说明 |
|---|---|
必填字段检查 |
|
DAG 合法性 | Activity 依赖关系不能形成环路。 |
名称唯一性 | 同一 Pipeline 内 Activity 名称不能重复 |
引用合法性 |
|
路径存在性 |
|
参数引用合法性 |
|
时机 | 行为 |
|---|---|
保存 | 保存时弹出警告,但不阻止保存。 |
发布 | 发布前强制通过全部验证项,不通过则阻止发布。 |
错误信息 | 原因 | 解决方式 |
|---|---|---|
循环依赖检测 | Activity A → B → C → A 形成环路 | 检查并断开环路中的某条依赖。 |
Activity 名称重复 | 两个 Activity 使用了相同的 | 修改其中一个的名称。 |
未知 Activity 引用 |
| 检查拼写或补充缺失的 Activity。 |
文件路径不存在 |
| 先创建脚本文件再配置 Activity。 |