当前位置: 代码迷 >> 综合 >> 计算精度,价格计算,丢失精度
  详细解决方案

计算精度,价格计算,丢失精度

热度:98   发布时间:2023-12-17 05:20:37.0

double类型和float类型计算会丢失精度,将要计算的值转成string类型放进 BigDecimal中计算

val a = "0.33325" ;

val b = "10.3335";

要计算a和b的乘积 : count

val count :String =( BigDecimal( a) * BigDecimal(b) ).toString