分类 | 指标 / 事件名称 | 建议阈值 / 条件 | 归属平台 | 说明与适用场景 |
VCI 实例与 Pod 基础 | pod_cpu_usage_seconds_total (Counter) container_cpu_usage_seconds_total (Counter) | rate(...) > 85%,且持续 5 分钟 | VMP | VCI 实例(Pod 维度)或单个容器的 CPU 使用率。持续高位可能意味着资源瓶颈或应用逻辑问题。 |
| pod_memory_working_set_bytes (Gauge) container_memory_working_set_bytes (Gauge) | Pod/Container Limit > 90% | VMP | 物理内存使用量。接近 Limit 时 Pod 面临被 OOMKilled 风险。 |
| container_network_receive_bytes_total (Counter) container_network_transmit_bytes_total (Counter) | rate(...)出现异常突增或骤降 | VMP | 网络吞吐量。监控流量的剧烈变化,预示可能发生攻击、业务异常或网络问题。 |
Kubernetes 核心事件 | 事件:Pod Pending | 同命名空间下 Pending Pod 数量 > 5,且持续 3 分钟 | 自建告警平台 / 云监控 | 大量 Pod 无法被调度,通常指向资源不足或调度器问题,是严重故障的前兆。 |
| 事件:Pod Terminating | 同命名空间下 Terminating Pod 数量 > 3,且持续 10 分钟 | 自建告警平台 / 云监控 | Pod 无法正常退出,影响发布和伸缩。 |
| 事件:Node NotReady | 虚拟节点状态变为 NotReady | 自建告警平台 / 云监控 | 表示 VCI 数据面或 Virtual Kubelet 与控制面的通信出现严重问题。 |
GPU 监控 | DCGM_FI_DEV_GPU_TEMP (Gauge) | > 85(摄氏度) | VMP (DCGM Exporter) | GPU 温度过高会触发降频,甚至硬件损坏。 |
| DCGM_FI_DEV_POWER_USAGE (Gauge) | rate(...)持续低于预期值 | VMP (DCGM Exporter) | 训练任务中 GPU 功率持续过低,表示任务可能未正确利用 GPU。 |
| DCGM_FI_DEV_GPU_UTIL (Gauge) DCGM_FI_DEV_MEM_COPY_UTIL (Gauge) | avg_over_time(...) < 10%,且持续 10 分钟 | VMP (DCGM Exporter) | GPU 利用率或显存带宽利用率长期过低,说明 GPU 资源闲置,需排查应用配置。 |
| DCGM_FI_DEV_XID_ERRORS (Gauge) | > 0 | VMP (DCGM Exporter) | NVIDIA XID 错误是 GPU 硬件或驱动严重错误的信号,需立即关注。 |
存储与磁盘 | kubelet_volume_stats_used_byteskubelet_volume_stats_capacity_bytes | 磁盘使用率 > 90% | VMP | 数据盘或系统盘容量即将耗尽,会导致数据无法写入、应用崩溃。 |
| kubelet_volume_stats_inodes_usedkubelet_volume_stats_inodes | Inode 使用率 > 90% | VMP | Inode 耗尽会导致无法创建新文件。适用于存储大量小文件的场景。 |
| EBS IO 指标(如 DiskReadBandwidth、DiskWriteBandwidth) | 达到云盘规格上限的 95% | 云监控 | 存储 IO 达到瓶颈,会导致应用读写延迟飙高。 |
控制面与依赖 | VCI 核心 API SLI(如 CreateContainerInstance) | 成功率 < 99% 持续 5 分钟 | 自建告警平台 | VCI 控制面核心接口出现异常,会大面积影响 Pod 的创建和管理。 |
| 配额中心相关事件 | Quota utilization exceeds 80% | 配额中心 / 云监控 | VCI 资源配额即将用尽,需提前申请扩容,避免影响业务弹性。 |
亚健康与故障机 | pod Condition / pod Label 中筛选出故障关键字 InstanceReady | kubectl get po -A-l vci.vke.volcengine.com/instance-fault=NodeNotReady | 自建告警平台 | 宕机节点,发生了物理机故障,实例已经不能正常运行。 |
| pod Condition / pod Label 中筛选出故障关键字 VciOps | kubectl get po -A-l vci.vke.volcengine.com/VciOps=PreVciNodeOffline | 自建告警平台 | 亚健康节点,预下线,VCI 后续会进行的运维运营动作,会影响 VCI 实例的运行。 |