| Python中float类型、float32类型和float64类型的表示精度，所需内存及其之间的转换 | 您所在的位置：网站首页 › 一个float和一个double相加 › Python中float类型、float32类型和float64类型的表示精度，所需内存及其之间的转换 |
|
1. 表示精度和所需内存
float类型和float64类型是一样的，都需要64个bits，而float32需要32个bits。 精度方面，float类型和float64类型在十进制中可以有16位，而float32类型在十进制中有8位，如下： >>> x = np.float64(1/3) >>> x 0.3333333333333333 >>> y = np.float32(x) >>> y 0.33333334 >>> p = 1000*(1/3) >>> p 333.3333333333333 >>> q = np.float32(p) >>> q 333.33334 2.转换 (1) ‘float’转’float64’x x x原本是’float’类型的 x = np.float64(x)经过上面的 x x x就变成了’float64’类型 (2)’float64’转‘float’y y y原本是’float64’类型的 y = np.float(y)经过上面的 y y y就变成了’float’类型 (3) ‘float64’与‘float32’之间的转换 >>> x = np.float64(1/3) >>> x 0.3333333333333333 >>> y = np.float32(x) >>> y 0.33333334 >>> z = np.float64(y) >>> z 0.3333333432674408 (4) 当出现如下错误时需要进行类型的转换 ValueError: Unknown label type: 'unknown' 3. torch.tensor中的类型转换 (1)当出现以下错误时很可能需要进行类型转换 RuntimeError: cuDNN error: CUDNN_STATUS_BAD_PARAM这个错误是由于数据类型不一致造成的。 (2)转为float32 a = a.to(torch.float32) (3)转为float64 a = a.to(torch.float64) |
| CopyRight 2018-2019 实验室设备网 版权所有 |