此操作返回0：
string value = “0.01”; float convertedValue = float.Parse(value); return (int)(convertedValue * 100.0f);
但是这个操作返回1：
string value = “0.01”; float convertedValue = float.Parse(value) * 100.0f; return (int)(convertedValue);
因为convertedValue是一个浮点数,而是在括号中* 100f不应该被视为浮动操作？
解决方法
两者之间的区别在于编译器优化浮点运算的方式.让我解释.
string value = "0.01"; float convertedValue = float.Parse(value); return (int)(convertedValue * 100.0f);
在此示例中,该值被解析为80位浮点数,用于计算机的内部浮点地牢.然后将其转换为32位浮点数以存储在convertedValue变量中.这使得值被四舍五入,似乎是略小于0.01的数字.然后将其转换回80位浮点数乘以100,将舍入误差增加100倍.然后将其转换为32位int.这导致float被截断,并且由于它实际上略小于1,所以int转换返回0.
string value = "0.01"; float convertedValue = float.Parse(value) * 100.0f; return (int)(convertedValue);
在此示例中,该值再次解析为80位浮点数.然后将其乘以100,然后将其转换为32位浮点数.这意味着舍入误差是如此之小,当转换为32位浮点型存储在convertedValue中时,它将舍入到正好为1.然后当转换为int时,您将获得1.
主要思想是计算机使用高精度浮点进行计算,然后在值存储在变量中时对其进行舍入.您使用浮动物体的分配越多,舍入误差越多.
