| | | \
| 服务 | 版本 |
|---|---|
| HDFS | 3.3.6 |
| YARN | 3.3.6 |
| MapReduce2 | 3.3.6 |
| Hive | 3.1.3 |
| Tez | 0.10.2 |
| Knox | 1.6.1 |
| Openldap | 2.5.13 |
| Zookeeper | 3.7.3 |
| HBase | 2.5.2 |
| Celeborn | 0.5.4 |
| Spark3 | 3.5.1 |
| Spark2 | 2.4.8 |
| Flink | 1.16.1 |
| Presto | 0.28 |
| Trino | 474 |
| Ossa | 1.0.2 |
| Kafka | 3.2.4 |
| DolphinScheduler | 3.1.9 |
| Iceberg | 1.5.2 |
| Paimon | 1.1 |
| Hudi | 0.15.0 |
| Airflow | 2.7.3 |
| Hue | 4.11.0 |
| Kyuubi | 1.8.0 |
| Impala | 3.4.1 |
| Sqoop | 1.4.7 |
| Kudu | 1.14.0 |
| Phoenix | 5.1.3 |
| Ranger | 2.3.0 |
| DataMigration | 1.0.4 |
| GTS | 1.0.2 |
| Proton | 2.3.17 |
| Doris | 2.0.14 |
| StarRocks | 2.5.13 |
| StarRocks | 3.2.11 |
| Delta Lake | 3.1.0 |
| Flume | 1.9.0 |
| Ray | 2.54.0 |
| Lance | 0.39.0 |
下面列出了 EMR 和此版本一起安装的组件。
| | | | \
| 组件 | 版本 | 描述 |
|---|---|---|
| zookeeper_server | 3.7.3 | 用于维护配置信息、命名、提供分布式同步的集中式服务。 |
| zookeeper_client | 3.7.3 | ZooKeeper 命令行客户端。 |
| hive_metastore | 3.1.3 | Hive 元数据存储服务。 |
| hive_server | 3.1.3 | 用于将 Hive 查询作为 Web 请求接受的服务。 |
| hive_client | 3.1.3 | Hive 命令行客户端。 |
| hdfs_namenode | 3.3.6 | 用于跟踪 HDFS 文件名和数据块的服务。 |
| hdfs_datanode | 3.3.6 | 存储 HDFS 数据块的节点服务。 |
| hdfs_secondary_namenode | 3.3.6 | 对 NameNode 数据进行周期性合并的服务。 |
| hdfs_client | 3.3.6 | HDFS 客户端命令行。 |
| hdfs_journalnode | 3.3.6 | 用于管理 HA 模式下 HDFS 日志的服务。 |
| hdfs_zkfc | 3.3.6 | 用户维护 HA 模式下 HDFS NameNode 从动态的服务。 |
| hue_server | 4.11.0 | 用于使用 Hadoop 生态系统应用程序分析数据的 Web 应用程序。 |
| knox_gateway | 1.5.0 | 用于与 Hadoop 生态的 RESTAPI 和 UI 交互的应用程序网关。 |
| openldap | 2.5.13 | 后台认证以及用户数据权限管控服务。 |
| ranger_admin | 2.3.0 | Ranger 安全管理的中心接口服务。 |
| ranger_usersync | 2.3.0 | 拉取用户和组的 Ranger 服务。 |
| spark_jobhistoryserver | 3.5.1 | 用于查看完整的 Spark 应用程序的生命周期的已记录事件的 Web UI。 |
| spark_client | 3.5.1 | Spark 命令行客户端。 |
| livy_server | 0.8.0 | 提供 REST 接口来与 Spark 交互的服务。 |
| sqoop | 1.4.7 | 提供数据库与 HDFS 导入导出功能。 |
| iceberg | 1.4.3 | Apache Iceberg 是一种适用于超大型分析数据集的开放表格式。 |
| hudi | 0.15.0 | 增量处理框架,以支持低延迟和高效率的数据管道。 |
| yarn_resourcemanager | 3.3.6 | 分配和管理集群资源与分布式应用程序的 YARN 服务。 |
| yarn_nodemanager | 3.3.6 | 管理单个节点上的容器的 YARN 服务。 |
| yarn_client | 3.3.6 | YARN 命令行客户端。 |
| mapreduce2_historyserver | 3.3.6 | 保存作业执行信息的 MapReduce 服务。 |
| mapreduce2_client | 3.3.6 | MapReduce 命令行客户端。 |
| tez_client | 0.10.2 | Tez 命令行客户端。 |
| flink_client | 1.16.1 | Flink 命令行客户端。 |
| airflow_webserver | 2.7.3 | Airflow 提供的 web 服务。 |
| airflow_scheduler | 2.7.3 | Airflow 的调度器。 |
| presto_cli | 0.28 | Presto 命令行客户端。 |
| presto_coordinator | 0.28 | Presto 中负责 query 解析,任务调度,结果汇总的,集群监控的节点。 |
| presto_worker | 0.28 | Presto 中负责所有 Query 相关数据的计算工作。 |
| trino_cli | 474 | Trino 命令行客户端。 |
| trino_coordinator | 474 | Trino 中负责 query 解析,任务调度,结果汇总的,集群监控的节点。 |
| trino_worker | 474 | Trino 中负责所有 Query 相关数据的计算工作。 |
| flume_agent | 1.9.0 | Flume 中的数据采集工具。 |
| flume_client | 1.9.0 | Flume 命令行客户端。 |
| kafka_broker | 3.2.4 | Kafka 中的消息处理节点。 |
| hbase_master | 2.5.2 | 适用于负责协调区域和执行管理命令的 HBase 集群的服务。 |
| hbase_regionserver | 2.5.2 | 用于服务于一个或多个 HBase 区域的服务。 |
| hbase_client | 2.5.2 | HBase 命令行客户端。 |
| opensearch | 1.2.3 | OpenSearch 服务。 |
| opensearch_dashboard | 1.2.3 | OpenSearch 的可视化仪表盘。 |
| tensorflow | 2.7.0 | 适用于高性能数值计算的 TensorFlow 开源软件库。 |
| tensorflow_on_yarn | 1.0.0 | TensorFlow YARN 应用程序和库。 |
| doris_fe | 1.2.5和2.0.14 | Doris 的 FE 服务。 |
| doris_be | 1.2.5和2.0.14 | Doris 的 BE 服务。 |
| bookKeeper | 4.14.2 | 负责 Pulsar 消息数据的存储。 |
| pulsar_broker | 3.0.1 | 提供读写服务以及 Pulsar 的计算逻辑。 |
| pulsar_client | 3.0.1 | Pulsar 命令行客户端。 |
| Pulsar Manager | 0.2.0 | Pulsar 可视化工具。 |
| clickhouse | 22.3.10.22 | ClickHouse 应用程序。 |
| catalogd | 3.4.1 | Impala 元数据服务的应用程序。 |
| statestored | 3.4.1 | Impala 集群节点管理应用程序。 |
| impalad | 3.4.1 | Impala 计算节点应用程序。 |
| kudu_tserver | 1.14.0 | Kudu 存储节点应用程序。 |
| kudu_master | 1.14.0 | Kudu 元数据和集群节点管理应用程序。 |
| starrocks_fe | 2.5.13和3.2.11 | StarRocks 的FE服务。 |
| starrocks_be | 2.5.13和3.2.11 | StarRocks 的BE服务。 |
| Ossa | 1.0.0 | 为字节 EMR 团队自研组件,用于支持作业管理等功能。 |
| Proton | 2.3.17 | 火山引擎 E-MapReduce(EMR)团队推出的,针对存算分离场景提供的加速引擎,其深度优化的 TOS 访问能力和 JobCommitter 功能,可极大地提升作业的执行效率。 |
| Kyuubi | 1.8.0 | 是一个分布式和多租户网关,用于在数据仓库和湖仓上提供无服务器 SQL。 |