python中实现精确的浮点数运算详解

所需积分/C币:26 2020-12-23 16:27:42 65KB PDF
15
收藏 收藏
举报

为什么说浮点数缺乏精确性? 在开始本文之前,让我们先来谈谈浮点数为什么缺乏精确性的问题,其实这不是Python的问题,而是实数的无限精度跟计算机的有限内存之间的矛盾。 举个例子,假如说我只能使用整数(即只精确到个位,计算机内的浮点数也只有有限精度,以C语言中的双精度浮点数double为例,精度为52个二进制位),要表示任意实数(无限精度)的时候我就只能通过舍入(rounding)来近似表示。 比如1.2我会表示成1,2.4表示成2,3.6表示成4. 所以呢? 在算1.2 – 1.2的时候,由于计算机表示的问题,我算的实际上是1 – 1,结果是0,碰巧蒙对了; 在算1.2 + 1.2 – 2.4

...展开详情
试读 2P python中实现精确的浮点数运算详解
立即下载 低至0.43元/次 身份认证VIP会员低至7折
一个资源只可评论一次,评论内容不能少于5个字
您会向同学/朋友/同事推荐我们的CSDN下载吗?
谢谢参与!您的真实评价是我们改进的动力~
  • 至尊王者

关注 私信
上传资源赚钱or赚积分
最新推荐
python中实现精确的浮点数运算详解 26积分/C币 立即下载
1/2
python中实现精确的浮点数运算详解第1页

试读结束, 可继续阅读

26积分/C币 立即下载