k230转换工具参数说明及测试的重要性


模型转换的前处理及后处理

转换参数说明,除官方说明外的内容

经过前几篇博文的介绍,模型转换是需要将浮点模型转换为定点模型,而能够实现较高的转换精度,需要采用一个代表数据集

需要说明的是模型转换过程需要考虑数据集本身的特性,不是所有的数据集都能得到准确结果的
例如一个线性函数,他在定点范围是受到限制的,取决于他的量化范围设定,超出实际需求的往往不能够正常地预测,例如温度范围长设置在1~1范围内,因此数据集需要考虑这个范围



扫描二维码,在手机上阅读

理解数字信号处理系列计划

理解数字信号处理系列计划——基于CanMV K230修正版

评 论