- 文档首页
GPU云服务器
GPU云服务器
故障处理
如何解决集合通信执行中断
如何解决集合通信执行中断
NCCL集合通信操作已启动,但在执行过程中发生异常中断。
此类问题通常由计算节点内部异常导致,包括GPU硬件故障、CUDA运行时错误、内存不足(OOM)、进程意外崩溃、系统信号中断等,该类错误属于节点本地故障。
说明
请结合您自研代码的实际业务场景,开展问题定位、排查与修复工作。
检查告警或错误日志:设置NCCL_DEBUG=INFO后,观察是否存在告警日志或者异常错误输出。
- 检查程序标准输出是否存在异常报错或告警。例如:Segmentation fault、OOM、数组越界、Cuda error等。
- 执行dmesg -T查看故障发生时刻对应的系统内核日志,重点检查是否存在与当前任务相关的异常信息,例如GPU Xid 硬件错误、系统内存不足(OOM)等关键告警。
若存在上述问题,请提交工单或联系客户经理获取技术支持。 最近更新时间:2026.05.08 15:36:24