我想了解float16和float32在结果精度方面的实际差异.例如,Numpy允许您选择所需数据类型的范围(np.float16,np.float32,np.float64).我担心的是,如果我决定使用float 16来保留内存并避免可能的溢出,那么与float32相比,这会造成最终结果的丢失吗?
谢谢
最佳答案
float32是一个32位数字 – float64使用64位.
这意味着float64占用了两倍的内存 – 在某些机器架构中对它们进行操作可能会慢得多.
但是,float64可以比32位浮点数更准确地表示数字.
它们还允许存储更大的数字.
对于你的Python-Numpy项目,我确信你知道输入变量及其性质.
为了做出决定,我们作为程序员需要问自己
>我的输出需要什么样的精度?
>速度根本不是问题吗?
>百万分之一需要多少精度?
一个简单的例子是,如果我存储我的城市的天气数据
[12.3,14.5,11.1,9.9,12.2,8.2]
第二天预测输出可能是11.5或11.5164374
您认为存储浮动32或浮动64是否必要?