profiler

  • paddle.fluid.profiler.profiler(state, sorted_key=None, profile_path='/tmp/profile')

通用性能分析器 。与 cuda_profiler 不同，此分析器可用于分析CPU和GPU程序。

  • 参数:
    • state (str) – 性能分析状态, 取值为 'CPU' 或 'GPU' 或 'All'。'CPU'表示只分析CPU上的性能；'GPU'表示同时分析CPU和GPU上的性能；'All'表示除了同时分析CPU和GPU上的性能外，还将生成 性能分析的时间轴信息 。
    • sorted_key (str，可选) – 性能分析结果的打印顺序，取值为None、'call'、'total'、'max'、'min'、'ave'之一。默认值为None，表示按照第一次结束时间顺序打印；'call'表示按调用的数量进行排序；'total'表示按总执行时间排序；'max'表示按最大执行时间排序；'min'表示按最小执行时间排序；'ave'表示按平均执行时间排序。
    • profile_path (str，可选) – 如果性能分析状态为'All', 将生成的时间轴信息写入profile_path，默认输出文件为 /tmp/profile 。
  • 抛出异常：
    • ValueError – 如果state取值不在 ['CPU', 'GPU', 'All']中，或sorted_key取值不在 [None, 'calls', 'total', 'max', 'min', 'ave']中，则抛出异常。

代码示例

  1. import paddle.fluid as fluid
  2. import paddle.fluid.profiler as profiler
  3. import numpy as np
  4.  
  5. epoc = 8
  6. dshape = [4, 3, 28, 28]
  7. data = fluid.layers.data(name='data', shape=[3, 28, 28], dtype='float32')
  8. conv = fluid.layers.conv2d(data, 20, 3, stride=[1, 1], padding=[1, 1])
  9.  
  10. place = fluid.CPUPlace()
  11. exe = fluid.Executor(place)
  12. exe.run(fluid.default_startup_program())
  13.  
  14. with profiler.profiler('CPU', 'total', '/tmp/profile') as prof:
  15.     for i in range(epoc):
  16.         input = np.random.random(dshape).astype('float32')
  17.         exe.run(fluid.default_main_program(), feed={'data': input})

结果示例

  1. #### sorted_key = 'total', 'calls', 'max', 'min', 'ave' 结果 ####
  2. # 示例结果中，除了Sorted by number of xxx in descending order in the same thread 这句随着sorted_key变化而不同，其余均相同。
  3. # 原因是，示例结果中，上述5列都已经按从大到小排列了。
  4. ------------------------->     Profiling Report     <-------------------------
  5.  
  6. Place: CPU
  7. Time unit: ms
  8. Sorted by total time in descending order in the same thread
  9. #Sorted by number of calls in descending order in the same thread
  10. #Sorted by number of max in descending order in the same thread
  11. #Sorted by number of min in descending order in the same thread
  12. #Sorted by number of avg in descending order in the same thread
  13.  
  14. Event                       Calls       Total       Min.        Max.        Ave.        Ratio.
  15. thread0::conv2d             8           129.406     0.304303    127.076     16.1758     0.983319
  16. thread0::elementwise_add    8           2.11865     0.193486    0.525592    0.264832    0.016099
  17. thread0::feed               8           0.076649    0.006834    0.024616    0.00958112  0.000582432
  18.  
  19. #### sorted_key = None 结果 ####
  20. # 示例结果中，是按照Op结束时间顺序打印，因此打印顺序为feed->conv2d->elementwise_add
  21. ------------------------->     Profiling Report     <-------------------------
  22.  
  23. Place: CPU
  24. Time unit: ms
  25. Sorted by event first end time in descending order in the same thread
  26.  
  27. Event                       Calls       Total       Min.        Max.        Ave.        Ratio.
  28. thread0::feed               8           0.077419    0.006608    0.023349    0.00967738  0.00775934
  29. thread0::conv2d             8           7.93456     0.291385    5.63342     0.99182     0.795243
  30. thread0::elementwise_add    8           1.96555     0.191884    0.518004    0.245693    0.196998