barrier

paddle.distributed. barrier ( group=0 ) [源代码]

同步进程组内的所有进程。

参数

  • group (int,可选) - 工作的进程组编号,默认为0。

返回

代码示例

  1. import paddle
  2. from paddle.distributed import init_parallel_env
  3. paddle.set_device('gpu:%d'%paddle.distributed.ParallelEnv().dev_id)
  4. init_parallel_env()
  5. paddle.distributed.barrier()