如果我用c写代码:
long long d = 999999998.9999999994; cout<<d;
我得到输出:999999999(四舍五入)
long long d = 999999998.9999994994; cout<<d;
是999999998(四舍五入)
这与精度有关吗?有什么方法可以改变精度. floor()函数也提供相同的输出.
我还注意到,如果我将值8.9999994994或8.9999999994分配给d(上面的变量).输出为8.
解决方法
999999998.9999999994不能精确表示为double,因此实际值是999999998.9999999994两侧的两个可表示数字之一 – 999999998.99999988079071044921875或999999999(假设IEEE-754 binary64格式),以实现定义的方式选择.大多数系统默认舍入到最近,产生999999999.
最终结果是,当您编写999999998.9999999994时,在这些系统上,它最终具有与写入999999999.0完全相同的效果.因此,后续转换产生999999999 – 从浮点数到整数的转换总是截断,但是这里没有什么可以截断.
与999999998.9999994994,最接近的可表示数字是999999998.999999523162841796875和999999998.99999940395355224609375.截断后生成999999998.类似地,对于8.9999999994,最接近的可表示数字是8.999999999399999950355777400545775890350341796875和8.9999999994000017267126168007962405681610107421875,并且任何一个在截断后将产生8.