模型转换的前处理及后处理
转换参数说明,除官方说明外的内容
经过前几篇博文的介绍,模型转换是需要将浮点模型转换为定点模型,而能够实现较高的转换精度,需要采用一个代表数据集
需要说明的是模型转换过程需要考虑数据集本身的特性,不是所有的数据集都能得到准确结果的
例如一个线性函数,他在定点范围是受到限制的,取决于他的量化范围设定,超出实际需求的往往不能够正常地预测,例如温度范围长设置在1~1范围内,因此数据集需要考虑这个范围
模型转换的前处理及后处理
转换参数说明,除官方说明外的内容
经过前几篇博文的介绍,模型转换是需要将浮点模型转换为定点模型,而能够实现较高的转换精度,需要采用一个代表数据集
需要说明的是模型转换过程需要考虑数据集本身的特性,不是所有的数据集都能得到准确结果的
例如一个线性函数,他在定点范围是受到限制的,取决于他的量化范围设定,超出实际需求的往往不能够正常地预测,例如温度范围长设置在1~1范围内,因此数据集需要考虑这个范围