转载

java – 为什么这个减法不等于零？

我在ColdFusion代码中遇到了这些值,但Google计算器似乎有相同的“错误”,其中差异不为零.

416582.2850 – 411476.8100 – 5105.475 = -2.36468622461E-011

http://www.google.com/search?hl=en&rlz=1C1GGLS_enUS340US340&q=416582.2850+-+411476.8100+-+5105.475&aq=f&oq=&aqi=

JavaCast将这些设置为long / float / double没有帮助 – 它会导致其他非零差异.

这是因为在基数10中“看起来”圆的十进制数在基数2中不能完全表示(这是计算机用来表示浮点数的数字).有关此问题和解决方法的详细说明,请参阅文章 What Every Computer Scientist Should Know About Floating-Point Arithmetic .

翻译自：https://stackoverflow.com/questions/2002821/why-does-this-subtraction-not-equal-zero

转载注明原文： java – 为什么这个减法不等于零？

原文 https://codeday.me/bug/20190112/510141.html

正文到此结束

所属分类： Java 编程技术

本文标签： java 代码 bug Google IO API Action 文章 js http https AngularJS 翻译解决方法 web HTML
版权声明： 本文为互联网转载文章，出处已在文章中说明(部分除外)。如果侵权，请联系本站长删除，谢谢。
本文海报： 生成海报一生成海报二

本站定位：个人技术类博客

本站作用：写博客、记日志、闲聊扯淡鼓捣技术。