简介
精度比对工具使用指南(推理)
精度比对工具使用指南(训练)
Auto Tune工具使用指南
Profiling工具使用指南(推理)
Profiling工具使用指南(训练)
AI Core Error分析工具使用指南(推理)
AI Core Error分析工具使用指南(训练)
脚本转换工具使用指南
算子及模型速查工具使用指南
推理Benchmark工具使用指南
专家系统工具使用指南(昇腾310 AI处理器)
昇腾模型压缩工具使用指南(Caffe)
概述
工具安装
- 快速入门
- 获取更多样例
量化
- 张量分解
命令行参数说明
Python API接口说明
FAQ
- 使用命令行方式安装Caffe环境失败
- 安装python3-tk时提示错误信息
- 执行proto合并时提示ERROR信息
- 检测网络量化时提示"UserWarning: Matplotlib is currently using agg, which is a non-GUI backend, so cannot show the figure."
- 校准执行过程中提示“IfmrQuantCalibration with offset scale is illegal"或“ IfmrQuantCalibration without offset scale is illegal”
- 量化执行过程中提示“Error: Cannot find scale_d of layer '**' in record file”
附录
昇腾模型压缩工具使用指南(TensorFlow)
概述
工具安装
- 快速入门
- 获取更多样例
量化
- 张量分解
命令行参数说明
Python API接口说明
FAQ
- 安装python3-tk时提示错误信息
- 昇腾模型压缩工具使用过程中提示资源申请失败
- IFMR数据量化时,存在inf或NaN值,量化过程报错
- 量化过程中提示某层bias量化超出int32范围
- 校准时提示“Invalid argument: You must feed a value for placeholder tensor **”
- 保存模型时提示“RuntimeError: cannot find shift_bit of layer ** in record_file”
- TensorFlow网络模型由于昇腾模型压缩工具导致输出节点改变,如何通过修改量化脚本进行后续的量化动作
- 插入量化算子后,如何恢复模型训练参数
附录
昇腾模型压缩工具使用指南(PyTorch)
昇腾模型压缩工具使用指南(ONNX)
昇腾模型压缩工具使用指南(MindSpore)
昇腾模型压缩工具使用指南(ACL方式)
昇腾模型压缩工具使用指南(TensorFlow,Ascend)