1、大疆FPGA量化精度试题:请问对12.918做无损定点化,最小位宽是多少?
误差(error)计算公式:小数位-(先量化为整数(小数乘以量化系数:2^n,四舍五入)再反量化(整数除以量化系数:2^n))
精度(precision):量化系数分之一,1/2^n;
误差小于精度一半,则代表可以无损顶点化;
1、大疆FPGA量化精度试题:请问对12.918做无损定点化,最小位宽是多少?
误差(error)计算公式:小数位-(先量化为整数(小数乘以量化系数:2^n,四舍五入)再反量化(整数除以量化系数:2^n))
精度(precision):量化系数分之一,1/2^n;
误差小于精度一半,则代表可以无损顶点化;