运行流程
具体运行流程如图4-3所示。
关键步骤 |
说明 |
---|---|
获取软件包 |
安装前请先获取对应软件包。 |
安装前准备 |
安装昇腾模型压缩工具之前,需要创建昇腾模型压缩工具的安装用户,检查系统环境是否满足要求,安装依赖以及上传软件包等一系列动作。详细操作请参见安装前准备。 |
安装 |
参见安装昇腾模型压缩工具安装TensorFlow框架的昇腾模型压缩工具。 |
(可选)编写脚本,调用昇腾模型压缩工具API |
如果用户需要量化自己的网络模型,不使用本手册提供的sample进行量化,则需要修改量化脚本,进行适配,然后才能进行量化。 |
执行量化 |
根据量化方法不同,分为基于calibration的量化和基于retrain的量化。详细量化步骤请参见基于calibration的量化和基于retrain的量化。 |
(可选)使用ATC工具进行模型转换 |
用户使用上述量化后的部署模型,通过ATC工具转换成昇腾AI处理器的离线模型,然后可以使用该模型进行推理。 |