在SQL Server 2008中计算对数时出现无效的浮点运算错误

前端之家收集整理的这篇文章主要介绍了在SQL Server 2008中计算对数时出现无效的浮点运算错误前端之家小编觉得挺不错的,现在分享给大家,也给大家做个参考。
在Microsoft sql Server 2008中,我有一个表,比如myTable,包含大约600k行(实际上,它是连接其他几个表的结果,但我认为这并不重要).它的一个列,比如value是numeric(6,2)类型.

简单查询SELECT值FROM myTable ORDER BY值当然返回大约600k个数字,从1.01开始(即最低),以70.00(最高)结束;没有NULL或其他值.

请注意,所有这些值都是数字和正数.但是,当调用SELECT LOG(value)FROM myTable时,我收到错误消息“发生了无效的浮点运算”.

查询运行约3分钟后,始终显示错误.将600k值复制到Excel并计算其LN()时,绝对没有问题.

我试过将值转换为real或float,这根本没用.最后我找到了一个解决方法:SELECT LOG(CASE WHEN值> 0 THEN值ELSE 1 END)来自myTable.这很有效.但是,当所有价值观都是积极的时候呢?我试图取结果并将对数与Excel计算的对数进行比较 – 它们都是相同的(在某些行中只出现10 ^( – 15)或更小的顺序的差异,这几乎肯定是由不同的准确度给出的) .这意味着我想,CASE语句中的条件总是正确的.

有谁知道为什么会出现这个错误?任何帮助赞赏.谢谢.

解决方法

您可以识别导致概率的特定值;
declare @f numeric(6,2),@r float
begin try select
    @f = value,@r = LOG(value) 
from mytable
end try begin catch
    select error_message(),'value=',@f
end catch
原文链接:https://www.f2er.com/mssql/78209.html

猜你在找的MsSQL相关文章