我知道511除以512实际上等于0.998046875.我也知道浮标的精度是7位数.我的问题是,当我在C(GCC)做这个数学时,得到的结果是0.998047,这是一个四舍五入的值.我宁愿只收到0.998046的截断值,我该怎么办？
float a = 511.0f; float b = 512.0f; float c = a / b;
解决方法
那么这里有一个问题. 511/512的值作为浮点数是准确的.没有四舍五入.您可以通过询问多于七位的数字来检查：
#include <stdio.h> int main(int argc,char *argv[]) { float x = 511.0f,y = 512.0f; printf("%.15f\n",x/y); return 0; }
输出：
0.998046875000000
浮点数不是十进制数,而是二进制数.如果你将一个数字除以2的幂,如512,结果将几乎总是精确的.发生的是浮点数的精度不仅仅是7位数,它的精确度是23位.
见What Every Computer Scientist Should Know About Floating-Point Arithmetic.
