华为CANN Profiler构造函数

Profiler构造函数【免费下载链接】tensorflowAscend TensorFlow Adapter项目地址: https://gitcode.com/cann/tensorflow功能说明Profiler类的构造函数用于局部打开Profiling功能例如仅采集TensorFlow网络中局部子图的性能数据或采集指定step的性能数据。函数原型class Profiler(object): def __init__( self, *, level: str L0, aic_metrics: str , output_path: str )参数说明参数名输入/输出描述level输入开启Profiler的级别用于控制采集性能数据的范围。- L0默认值主要采集任务调度耗时信息task_time和acl接口执行相关的性能数据。- L1在L0的采集数据基础上额外采集集合通信算子性能数据和AI Core算子性能数据。- L2在L1的采集数据基础上额外采集Runtime组件执行相关的性能数据和AI CPU算子性能数据。aic_metrics输入当level配置为“L1”或“L2”时可通过此参数采集AI Core和AI Vector Core硬件相关的性能指标包含如下取值- ArithmeticUtilizationcube及vector类型指令耗时和占比。- PipeUtilization默认值计算单元和搬运单元耗时占比。- Memory内存读写带宽速率。- MemoryL0L0读写带宽速率。- MemoryUBUB读写带宽速率。- ResourceConflictRatio流水线队列类指令占比。- L2Cache读写cache命中次数和缺失后重新分配次数。关于每一种取值包含的详细采集项及其含义可参见《性能调优工具用户指南》中的“性能数据文件参考 op_summary算子详细信息”章节。output_path输入Profiling采集结果文件保存路径。该参数指定的目录需要在启动训练的环境上容器或Host侧提前创建且运行用户具有读写权限支持配置为绝对路径或相对路径相对执行命令行时的当前路径。路径中不能包含特殊字符\n、\f、\r、\b、\t、\v、\u007F。- 绝对路径配置以“/”开头例如/home/test/output。- 相对路径配置直接以目录名开始例如output。- 该参数优先级高于环境变量ASCEND_WORK_PATH关于ASCEND_WORK_PATH的详细说明可参见《环境变量参考》中的“安装配置相关”章节。默认值为空。此参数配置为空时采集结果文件保存在当前目录下。返回值无约束说明Profiler类需要通过with语句调用性能数据采集功能会在对应的作用域内生效。Profiler类仅支持session模式调用。Profiler类不能嵌套使用。如下所示是错误的调用方法。with profiler.Profiler(levelL1, aic_metricsArithmeticUtilization, output_path ./): with profiler.Profiler(levelL1, aic_metricsArithmeticUtilization, output_path ./): sess.run(add)Profiler类不能与session配置中的参数“profiling_mode”、“profiling_options”NPURunConfig配置中的参数“enable_profiling”、“profiling_options”以及环境变量“PROFILING_MODE”、“PROFILING_OPTIONS”同时使用关于环境变量的详细说明可参见《环境变量参考》。Profiler类不支持多线程调用。调用示例import tensorflow as tf from npu_bridge.npu_init import * ...... a tf.placeholder(tf.int32, (None,None)) b tf.constant([[1,2],[2,3]], dtypetf.int32, shape(2,2)) add tf.add(a, b) with tf.Session(configsession_config, graphg) as sess: with profiler.Profiler(levelL1, aic_metricsstr(ArithmeticUtilization), output_path ./): resultsess.run(add, feed_dict{a: [[-20, 2],[1,3]],c: [[1],[-21]]})【免费下载链接】tensorflowAscend TensorFlow Adapter项目地址: https://gitcode.com/cann/tensorflow创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考