c# – 舍入单个

前端之家收集整理的这篇文章主要介绍了c# – 舍入单个前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。
我有这个“科学应用”,其中单个值应该在UI中呈现之前进行四舍五入.根据 this MSDN article,由于“精度损失”,Math.Round(Double,Int32)方法有时会“意外地”出现,例如四舍五入到2.13,而不是2.14.

据了解,这个问题与“银行家四舍五入”无关(参见例如this question).

在应用程序中,有人显然通过在舍入前明确地将Single转换为十进制(即Math.Round((Decimal)mySingle,2))来调用Math.Round(Decimal,Int32)重载来解决这个问题.除了可能出现的二进制到十进制转换问题之外,如果“单一”值太小或不足以适应“十进制”类型,则此“解决方案”也可能会引发OverflowException.

抓住这样的错误,返回Math.Round(Double,Int32)的结果,如果转换失败,不会打击我作为完美的解决方案.也不会将应用程序重写为使用十进制.

是否有或多或少的“正确”的方式来处理这种情况,如果是,可能是什么?

解决方法

我会认为您现有的解决方案(使用Math.Round的十进制版本)是正确的.

潜在的问题是,您希望根据其基数10表示来舍入数字,但您已将它们存储为基础2浮点数.所提供的2.135的例子是其中基数2表示与基数10不完全匹配的那些边缘情况之一.

要获得预期的舍入行为,您必须将数字转换为基数10.最简单的方法正是您已经在做的:暂时将数字转换为十进制长度足以调用Math.Round.

原文链接:https://www.f2er.com/csharp/96628.html

猜你在找的C#相关文章