参考BigDecimal类的文档,
n,m = a.precs
precreturns number of significant digits (n) and
maximum number of significant digits (m) ofa.
我对以下与BigDecimal相关的输出感到困惑.
require 'bigdecimal'
BigDecimal.new('1').precs # => [9,18]
BigDecimal.new(1).precs # => [9,27]
我无法弄清楚为什么在传递String时,与传递Fixnum时相比,最大有效位数会更少.
它还会导致任何精度问题吗？
解决方法
如果您可以阅读C代码,则可以从
https://github.com/ruby/ruby/blob/trunk/ext/bigdecimal/bigdecimal.c#L2509开始 – 这是任何BigDecimal对象的初始化程序.如果您将该代码跟随下一个方法(即
BigDecimal_new),您会注意到在传递整数参数时,在分配和创建内部大小数对象之前还需要执行一些步骤,而不是在传递字符串参数时.
在任何情况下,您都不必担心精度损失 – 有效数字属性更像是提示而不是绝对值.甚至文档都提到它：
The actual number of significant digits used in computation is usually larger than the specified number.