You need to enable JavaScript to run this app.
文档中心
容器服务

容器服务

复制全文
下载 pdf
异构计算 FAQ
RDMA 环境运行过程中报错,该如何解决?
复制全文
下载 pdf
RDMA 环境运行过程中报错,该如何解决?
问题现象​
容器内使用 RDMA 设备完成多机通信,运行过程中 NCCL 运行时报如下错误:​
  • ibv_create_cq allocate memory failed。​
  • ibvwrap.c:106 NCCL WARN Call to ibv_reg_mr failed。错误信息示例如下:​
  • ​
    ibvwrap.c:106 NCCL WARN Call to ibv_reg_mr failed​
    proxy.cc:1519 NCCL WARN [Proxy Service 5] Failed to execute operation Connect from rank 5, retcode 2​
    NCCL WARN socketProgress: Connection closed by remote peer master-0.svc.cluster.local<36167>​
    ​
环境配置​
  • 节点机型:ecs.hpcpni3ln.45xlarge​
  • NCCL 版本:2.18.5​
原因分析​
若确定是“ulimit -l 限制默认为 64K,benchmark 场景下 memlock 内存不足”导致,可参考以下解决方案处理。​
解决方案​
​
新增节点
存量节点
​
新增节点的解决方案如下:​
  1. 在左侧导航栏中单击 集群,单击目标集群名称,进入集群管理页面。​
  1. 在左侧导航栏中选择 节点管理 > 节点池。​
  1. 单击目标节点池右侧 操作 列下的 编辑,在 高级配置 中添加如下部署执行脚本,替换并重启 containerd 配置。​
注意​
其中,LimitNOFILE参数的值需要根据实际情况,从/lib/systemd/system/containerd.service中获取。​
  • ​
    sed -i '/LimitNOFILE=10xxx76/a LimitMEMLOCK=infinity\nLimitSTACK=infinity' /lib/systemd/system/containerd.service && systemctl daemon-reload && systemctl restart containerd​
    ​
  • ​​​
​
​
最近更新时间:2026.02.04 11:00:50
这个页面对您有帮助吗?
有用
有用
无用
无用