简易重训练配置文件说明
retrain_config.proto文件参数说明如表3-37所示。
消息 |
是否必填 |
类型 |
字段 |
说明 |
---|---|---|---|---|
AMCTRetrainConfig |
- |
- |
- |
昇腾模型压缩工具的简易重训练配置。 |
required |
RetrainDataQuantConfig |
retrain_data_quant_config |
retrain data quant的参数。 |
|
required |
RetrainWeightQuantConfig |
retrain_weight_quant_config |
retrain weights quant的参数。 |
|
repeated |
string |
skip_layers |
按层名跳过哪些层。 |
|
repeated |
RetrainOverrideLayer |
override_layer_configs |
按层名重写哪些层。 |
|
repeated |
string |
skip_layer_types |
按层类型跳过哪些层(目前版本不支持)。 |
|
repeated |
RetrainOverrideLayerType |
override_layer_types |
按层类型重写哪些层. |
|
RetrainDataQuantConfig |
- |
- |
- |
retrain data参数配置。 |
- |
ULQuantize |
ulq_quantize |
data quant的算法,目前仅支持ulq。 |
|
ULQuantize |
- |
- |
- |
ULQ算法参数。 |
optional |
ClipMaxMin |
clip_max_min |
初始化的上下限值,如果不配置,默认用ifmr进行初始化。 |
|
optional |
bool |
fixed_min |
是否下限不学习且固定为0。默认ReLu后为true,其他为false。 |
|
ClipMaxMin |
- |
- |
- |
初始上下限。 |
required |
float |
clip_max |
初始上限值。 |
|
required |
float |
clip_min |
初始下限值。 |
|
RetrainWeightQuantConfig |
- |
- |
- |
retrain weights参数配置。 |
- |
ARQRetrain |
arq_retrain |
weights量化算法,目前仅支持arq。 |
|
ARQRetrain |
- |
- |
- |
ARQ算法参数。 |
required |
bool |
channel_wise |
是否做channel wise的arq。 |
|
RetrainOverrideLayer |
- |
- |
- |
重写的层配置。 |
required |
string |
layer_name |
层名。 |
|
required |
RetrainDataQuantConfig |
retrain_data_quant_config |
重写的数据层量化参数。 |
|
required |
RetrainWeightQuantConfig |
retrain_weight_quant_config |
重写的weights层量化参数。 |
|
RetrainOverrideLayerType |
- |
- |
- |
重写的层类型配置。 |
required |
string |
layer_type |
层type。 |
|
required |
RetrainDataQuantConfig |
retrain_data_quant_config |
重写的数据层量化参数。 |
|
required |
RetrainWeightQuantConfig |
retrain_weight_quant_config |
重写的weights层量化参数。 |
基于该文件生成的简易重训练配置文件quant.cfg样例如下所示:
# global quantize parameter retrain_data_quant_config: { ulq_quantize: { clip_max_min: { clip_max: 6.0 clip_min: -6.0 } } } retrain_weight_quant_config: { arq_retrain: { channel_wise: true } } override_layer_types : { layer_type: "InnerProduct" retrain_weight_quant_config: { arq_retrain: { channel_wise: false } } } override_layer_configs : { layer_name: "fc_5" retrain_weight_quant_config: { arq_retrain: { channel_wise: false } } }