评分并提供意见反馈 :
华为采用机器翻译与人工审校相结合的方式将此文档翻译成不同语言,希望能帮助您更容易理解此文档的内容。 请注意:即使是最好的机器翻译,其准确度也不及专业翻译人员的水平。 华为对于翻译的准确性不承担任何责任,并建议您参考英文文档(已提供链接)。
加载插件转换模型
原理说明
加载了用户自定义算子插件的模型转换流程如图5-14所示
- OMG(Offline Model Generate)加载模型文件、自定义算子插件,对模型文件中的算子进行解析,并将自定义算子转换为IR(Intermediate representation)表示。
- OMG根据运行环境对自定义算子进行数据转换、运行内存计算,同时编译生成自定义算子的二进制文件(*.o)文件,并生成离线模型(*.om)文件
- 应用程序运行时,OME会获取输入数据,加载离线模型文件进行算子的循环调用执行,输出结果数据。
操作流程
- 以DDK安装用户进入自定义算子开发工程根目录。
cd $HOME/tools/projects/customop_te/
- 执行如下命令进行模型转换。omg --model=model/deploy_mylenet-1.prototxt --weight=model/mylenet-1.caffemodel --framework=0 --plugin_path=plugin --output=mylenet --ddk_version=1.3.T18.B850
- --model项的值为mylenet网络的原始模型文件的相对路径。
- --weight项的值为mylenet网络的预训练模型文件的相对路径。
- --framework为原始框架类型。
- 0:caffe
- 3:tensorflow
- --plugin项的值为自定义算子插件所在目录。
- --output项的值为输出模型文件的名称,用户可自定义。
- --ddk_version项的值为自定义算子运行需要匹配DDK的版本号,可在“$HOME/tools/che/ddk/ddk/ddk_info”文件中查看DDK版本号。
更多参数说明请参考《模型转换指导》。