当前位置: 代码迷 >> Sql Server >> 3.89-3.98=4.44089209850063E-16,该如何解决
  详细解决方案

3.89-3.98=4.44089209850063E-16,该如何解决

热度:381   发布时间:2016-04-27 13:50:57.0
3.89-3.98=4.44089209850063E-16

在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16

------解决方案--------------------
给出具体的测试数据吧
------解决方案--------------------
用decimal做数据类型.
------解决方案--------------------
原因:因为你用的float 数据类型
解决方案:改成decimal
------解决方案--------------------
探讨
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16