量化配置

如果通过create_quant_retrain_config接口生成的config.json量化配置文件，推理精度不满足要求，则需要参见该章节不断调整config.json文件中的内容，直至精度满足要求，该文件部分内容样例如下（用户修改json文件时，请确保层名唯一）：

{
    "version":1,
    "conv1":{
        "retrain_enable":true,
        "retrain_data_config":{
            "algo":"ulq_quantize"
        },
        "retrain_weight_config":{
            "algo":"arq_retrain",
            "channel_wise":true
        }
    },
    "conv2_1/expand":{
        "retrain_enable":true,
        "retrain_data_config":{
            "algo":"ulq_quantize"
        },
        "retrain_weight_config":{
            "algo":"arq_retrain",
            "channel_wise":true
        }
    },
    "conv2_1/dwise":{
        "retrain_enable":true,
        "retrain_data_config":{
            "algo":"ulq_quantize"
        },
        "retrain_weight_config":{
            "algo":"arq_retrain",
            "channel_wise":true
        }
    },
}

配置文件中参数说明如下：

按照config.json文件中的默认配置进行量化，若量化后的推理精度不满足要求，则按照如下步骤调整量化配置文件中的参数。

1. 执行amct_tensorflow_sample.tar.gz包中的量化脚本，根据create_quant_retrain_config接口生成的默认配置进行量化。
2. 若根据1中的默认配置进行量化后，精度满足要求，则调参结束，否则进行3。
3. 手动调整量化配置文件，在该文件中增加fixed_min，clip_max，clip_min参数：
   • fixed_min，如果选择此项，并且网络模型量化层的前一层是relu层，则该参数需要手动设置为true，如果为非relu层，则要手动设置为false。
   • clip_max和clip_min的值根据不同层feature map的数据分布找到最大值max和最小值min，clip_max推荐取值范围0.3*max~1.7*max，clip_min推荐取值范围0.3*min~1.7*min，计算指标量化反量化后的均方误差，根据指标选择最好的clip_max和clip_min。
   修改后的量化配置文件样例如下：

   {
       "version":1,
       "inference/Conv2D":{
           "retrain_enable":true,
           "retrain_data_config":{
               "algo":"ulq_quantize",
               "clip_max":3.0,
               "clip_min":-3.0,
               "fixed_min":true
           },
           "retrain_weight_config":{
               "algo":"arq_retrain",
               "channel_wise":true
           }
       },
       "inference/Conv2D_1":{
           "retrain_enable":true,
           "retrain_data_config":{
               "algo":"ulq_quantize",
               "clip_max":3.0,
               "clip_min":-3.0,
               "fixed_min":true
           },
           "retrain_weight_config":{
               "algo":"arq_retrain",
               "channel_wise":true
           }
       }
   }

4. 完成配置后，精度满足要求则调参结束；否则表明重训练对精度影响很大，不能进行重训练，去除重训练配置。