当前位置:
代码迷
>>
Sql Server
>> 3.89-3.98=4.44089209850063E-16,该如何解决
详细解决方案
3.89-3.98=4.44089209850063E-16,该如何解决
热度:
381
发布时间:
2016-04-27 13:50:57.0
3.89-3.98=4.44089209850063E-16
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16
------解决方案--------------------
给出具体的测试数据吧
------解决方案--------------------
用decimal做数据类型.
------解决方案--------------------
原因:因为你用的float 数据类型
解决方案:改成decimal
------解决方案--------------------
探讨
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16
相关解决方案
3.89-3.98=4.44089209850063E-16,该如何解决