转载

java – 为什么这个减法不等于零?

我在ColdFusion代码中遇到了这些值,但Google计算器似乎有相同的“错误”,其中差异不为零.

416582.2850 – 411476.8100 – 5105.475 = -2.36468622461E-011

http://www.google.com/search?hl=en&rlz=1C1GGLS_enUS340US340&q=416582.2850+-+411476.8100+-+5105.475&aq=f&oq=&aqi=

JavaCast将这些设置为long / float / double没有帮助 – 它会导致其他非零差异.

这是因为在基数10中“看起来”圆的十进制数在基数2中不能完全表示(这是计算机用来表示浮点数的数字).有关此问题和解决方法的详细说明,请参阅文章 What Every Computer Scientist Should Know About Floating-Point Arithmetic .

翻译自:https://stackoverflow.com/questions/2002821/why-does-this-subtraction-not-equal-zero

转载注明原文: java – 为什么这个减法不等于零?

原文  https://codeday.me/bug/20190112/510141.html
正文到此结束
Loading...