参见英文答案 >
Perl rounding error again 5个
有人可以解释为什么这里的行为存在差异吗？
有人可以解释为什么这里的行为存在差异吗？
perl -E 'say sprintf("%.2f",5.555);'
5.55
perl -E 'say sprintf("%.2f",0.555);'
0.56
我已经读过如果以下数字是5或更大,sprintf()会向上舍入.那么为什么在第二种情况下它不能达到0.56呢？
解决方法
最接近的IEEE 754 64位二进制浮点数为0.555是0.55500000000000004884981308350688777863979339599609375.它略微接近0.56而不是0.55.
最接近的IEEE 754 64位二进制浮点数为5.555是5.55499999999999971578290569595992565155029296875.它略微接近5.55而不是5.56.
在每种情况下,输出都是最接近的十进制数,其中包含内部数字实际值的2位小数.
正如Pascal Cuoq在评论中所说,0.555在binade [0.5 … 1]中,其中可表示的浮点数由2-53分隔.相比之下,5.555位于binade [4 … 8]中,其中可表示的浮点数以2-50分隔.这就是0.555和5.555的小数部分不同的原因.