CANN/ge:GE图Dump格式说明 GE 图 Dump 格式说明【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge概述GEGraph Engine支持将计算图导出为多种格式便于开发者查看、调试和分析图结构。本文档介绍三种 dump 格式ge_proto、onnx和readable以及它们的特点和使用方法。Dump 格式概览格式文件命名主要特点ge_protoge_proto*.txtprotobuf文本格式信息完整性最好可以转成JSON格式文件方便用户定位问题onnxge_onnx*.pbtxt基于ONNX的模型描述结构支持 Netron 等可视化工具打开。详细说明见Netron 可视化说明readablege_readable*.txt类似Dynamo fx图风格文本可读性最高。详细格式说明请参考 readable_dump.mdDump 使用方式通过环境变量自动 Dump通过设置环境变量可以在图执行时自动生成 dump 文件# 设置图 dump 级别 export DUMP_GE_GRAPH1 # 设置 dump 路径 export DUMP_GRAPH_PATH/path/to/dump/directory # 设置 dump 格式 export DUMP_GRAPH_FORMATge_proto|onnx|readable环境变量说明环境变量说明示例值DUMP_GE_GRAPH控制图 dump 的内容粒度-1包含连边关系和数据信息的全量 dump-2不含有权重等数据的基本版 dump-3只显示节点关系的精简版 dump1、2或3DUMP_GRAPH_PATHdump 文件保存路径- 可配置为绝对路径或脚本执行目录的相对路径- 路径支持大小写字母、数字、下划线、中划线、句点、中文字符/path/to/dumpDUMP_GRAPH_FORMATdump 格式支持ge_proto、onnx、readable多个格式用\|分隔readable或ge_proto\|onnx默认值DUMP_GRAPH_LEVEL控制 dump 图编译阶段的个数-数值配置-1dump 所有阶段的图-2dump 白名单阶段的图默认值-3dump 最后的生成图经过 GE 优化、编译后的图-4dump 最早的生成图GE 解析映射算子后的编译入口图-字符串配置用\|分隔例如PreRunBegin\|AfterInfershape表示 dump 名称包含这些字符串的图1、2、3、4或PreRunBegin\|AfterInfershape通过 Graph API 导出C#include ge/graph.h // 创建图 ge::Graph graph(my_graph); // ... 构建图结构 ... // 导出为不同格式 graph.DumpToFile(ge::Graph::DumpFormat::kTxt, suffix); // ge_proto graph.DumpToFile(ge::Graph::DumpFormat::kOnnx, suffix); // onnx graph.DumpToFile(ge::Graph::DumpFormat::kReadable, suffix); // readablePythonfrom ge.graph import Graph, DumpFormat # 创建图 graph Graph(my_graph) # ... 构建图结构 ... # 方式1: 导出为文件 graph.dump_to_file(formatDumpFormat.kTxt, suffixsuffix) # ge_proto graph.dump_to_file(formatDumpFormat.kOnnx, suffixsuffix) # onnx graph.dump_to_file(formatDumpFormat.kReadable, suffixsuffix) # readable # 方式2: 直接打印仅 readable 格式支持 print(graph) # 直接打印 readable 格式到控制台查看图结构 readable_str str(graph) # 获取 readable 格式字符串可用于保存或进一步处理关于ge.graph的详细说明请参考 graph模块附录Netron 可视化说明在 Netron 中打开ge_onnx*.pbtxt文件时节点表示图中的每个节点表示为一个算子连边关系连边关系用带箭头的实线表示箭头方向表示数据流向从源节点指向目标节点节点信息查看点击算子节点可查看算子的详细信息重点信息包括属性名说明type算子类型name算子名input_desc_dtype:x第x个输入的数据类型input_desc_layout:x第x个输入的数据格式input_desc_shape:x第x个输入的shapeoutput_desc_dtype:x第x个输出的数据类型output_desc_layout:x第x个输出的数据格式output_desc_shape:x第x个输出的shape【免费下载链接】geGEGraph Engine是面向昇腾的图编译器和执行器提供了计算图优化、多流并行、内存复用和模型下沉等技术手段加速模型执行效率减少模型内存占用。 GE 提供对 PyTorch、TensorFlow 前端的友好接入能力并同时支持 onnx、pb 等主流模型格式的解析与编译。项目地址: https://gitcode.com/cann/ge创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考