我有这个简单的代码行：
float val = 123456.123456;
当我打印此val或查看范围时,它存储值123456.13
好的,没关系,只能在4个字节内存储所有这些数字,但为什么13点后呢？不应该是12
(在win32上使用vc 2010 express)
解决方法
当表示为浮点数时,您的数字的指数为16(即,值为它的mantisse时间2 ^ 16或65536).螳螂就变成了
123456.123456 / 65536 = 1.8837909462890625
为了适应32位浮点数,螳螂被截断为23位,现在变为1.883791.当乘以65536时,变为123456.125.
注意小数点后第三位的5位：您使用的C的输出例程将其舍入,使您的最终数字看起来像123456.13.
编辑四舍五入的解释：(Rick Regan的评论)
舍入发生在二进制(到24位),十进制到二进制转换,然后到十进制,在printf.存储值为1.1110001001000000001 x 2 ^ 16 = 1.8837909698486328125 x 2 ^ 16 = 123456.125.它打印为123456.13,但只因为Visual C使用“从零开始的一半”四舍五入.
里克也有一个outstanding article on the subject.
如果你想玩其他数字和他们的浮动表示,这里是一个very useful IEEE-754 calculator.
