【python】浮点数计算时的误差问题 您所在的位置:网站首页 浮点运算误差怎么解决 【python】浮点数计算时的误差问题

【python】浮点数计算时的误差问题

2024-06-25 00:53| 来源: 网络整理| 查看: 265

python浮点数计算的问题

python不建议直接将两个浮点数进行精确的计算,因为python中的浮点数计算存在一个误差问题,例如: 在这里插入图片描述 出现这种问题的原因是,计算机中保存数字的寄存器是使用二进制来保存数字的,有的有限十进制小数只能使用无限的二进制小数表示。 首先看一下将十进制小数转换为二进制的过程为:

将小数乘以2,取出整数部分作为二进制表示的第1位;然后再将小数部分乘以2,将得到的整数部分作为二进制表示的第2位;以此类推,直到小数部分为0。

例如【5.20-5】的结果是0.2时,使用二进制表示就是:0.0011 0011 0011… 是个无限循环小数。 而内存只会划分有限的空间来保存一个小数,所以当我们想要保存这个0.2的数字时,只会截取二进制数字中的一部分来保存,而当我们重新通过被截取的二进制数字来计算对应的十进制数字,就会产生误差。

当然不是所有浮点数计算结果都会产生这种误差,例如十进制小数0.25可以使用有限的二进制小数表示,所以当浮点数的计算结果是这些数时就不会有误差: 在这里插入图片描述

python如何解决浮点数计算误差

方法一: 如果你只希望浮点数精确到某个精度即可,那可以使用浮点数自带的精度计算。 在这里插入图片描述

方法二: 也可以使用round()函数,直接四舍五入。如果round()函数中不指定第二个参数的话,默认四舍五入到整数位,否则精度最多保存到第二个参数长度的小数位:

In [1]: 4 - 3.6 Out[1]: 0.3999999999999999 In [2]: round(4 - 3.6) Out[2]: 0.0 In [3]: round(4-3.6,2) Out[3]: 0.4 In [4]: round(4-3.6,5) Out[4]: 0.4 In [5]: round(2.55555,3) Out[5]: 2.556 In [6]: round(2.555,30) Out[6]: 2.555 In [7]: round(2.5) #注意这个从python3开始是向偶数看齐,即整数部分为偶数时舍弃小数部分,为奇数时进一位 Out[7]: 3.0 #python3输出为2 In [8]: round(3.5) Out[8]: 4.0

方法三: 使用decimal模块: 在这里插入图片描述 注意,decimal函数中的参数是字符串。 另外Decimal的引入申明为:

from decimal import Decimal

参考: https://blog.csdn.net/xiaodongxiexie/article/details/54933753



【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

    专题文章
      CopyRight 2018-2019 实验室设备网 版权所有