没有合适的资源?快使用搜索试试~ 我知道了~
今天小编就为大家分享一篇python执行精确的小数计算方法,具有很好的参考价值,希望对大家有所帮助。一起跟随小编过来看看吧
资源推荐
资源详情
资源评论
python执行精确的小数计算方法执行精确的小数计算方法
今天小编就为大家分享一篇python执行精确的小数计算方法,具有很好的参考价值,希望对大家有所帮助。一
起跟随小编过来看看吧
在进行浮点数计算时它们无法精确表达出所有的十进制小数位。
a = 4.1
b = 5.329
print(a+b)
9.428999999999998
这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的
是原始表示形式,因此使用float实例时就不能避免这样的误差。
我们可以使用我们可以使用decimal模块避免这种操作模块避免这种操作(如果不介意牺牲下性能如果不介意牺牲下性能)::
from decimal import Decimal
a = Decimal('4.1')
b = Decimal('5.329')
print(a+b)
9.429
注意Decimal的参数必须是字符串,不能是浮点型,否则误差依旧存在。
decimal模块的主要功能是允许控制计算过程中的各个方面,包括数字的尾数和四舍五入。
from decimal import Decimal
from decimal import localcontext
a = Decimal(4.1)
b = Decimal(5.329)
print(a/b)
print('================')
with localcontext() as ctx:
ctx.prec = 3
print(a/b)
0.7693751172827922400071261708
================
0.769
getcontext也可以实现和localcontext一样的功能
from decimal import Decimal, getcontext
a = Decimal(4.1)
b = Decimal(5.329)
getcontext().prec = 3
print(a/b)
0.769
误差我们不能完全消除,我们只能尽力优化算法,使得误差尽可能小。在大数和小数相加时要格外注意。
nums = [3.21e+18, 1, -3.21e+18]
print(sum(nums))
print('=========================')
import math
res = math.fsum(nums)
print(res)
0.0
=========================
1.0
以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了,希望能给大家一个参考,也希望大家多多支持我
们。
资源评论
weixin_38692928
- 粉丝: 6
- 资源: 913
上传资源 快速赚钱
- 我的内容管理 展开
- 我的资源 快来上传第一个资源
- 我的收益 登录查看自己的收益
- 我的积分 登录查看自己的积分
- 我的C币 登录后查看C币余额
- 我的收藏
- 我的下载
- 下载帮助
安全验证
文档复制为VIP权益,开通VIP直接复制
信息提交成功