我正在进行计算,但我没有得到预期的答案.我在计算时失去了一些规模.
计算公式为：651/1000 * -413.72063274 = -269.33213191(至8 d.p)
在sql Server中我这样做：
declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)
set @var = -413.72063274
set @a = 651.00000000
set @b = 1000.00000000
select CAST((@a/@b) * @var as numeric(28,8)) as result_1,CAST(CAST(@a as numeric(28,8))
/CAST(@b as numeric(28,8)) as numeric(28,8))
*CAST(@var as numeric (28,8)) as result_2
结果是
result_1：-269.33213200(正确到6dp)
result_2：-269.332132(正确到6dp)
解决方法
对于这种特定情况,您可以通过先将所有值相乘并将最终结果除以此乘数来作弊.
declare @var numeric(28,8) declare @m numeric(28,8) set @var = -413.72063274 set @a = 651.00000000 set @b = 1000.00000000 set @m = 10000000 select CAST(((@a*@m) * (@var*@m) / (@b*@m)) AS NUMERIC(28,8)) / @m -- Result: -269.3321319137
编辑
另一方面,在不使用乘数的情况下保持其精度
select CAST(@a * @var AS NUMERIC(28,8)) / @b -- Result: -269.3321319140
