Non-coll模式

Hyper MPI可屏蔽掉coll_ucx功能,采用Open UCX原有的集合通信及P2P通信,使用命令示例如下:

mpirun -np 16 -N 2 --hostfile hf --mca coll ^ucx osu_allreduce

  • -np:所有节点总进程数,计算方式-N*节点数。
  • -N:每个节点的进程数。
  • hostfile:进程均匀分布时,用来导入其他节点的地址信息,使进程可以分配到此节点。