python执行精确的小数计算方法
更新时间：2019年01月21日 09:56:06 作者：yangjiajia123456
今天小编就为大家分享一篇python执行精确的小数计算方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧
在进行浮点数计算时它们无法精确表达出所有的十进制小数位。
a = 4.1 b = 5.329 print(a+b) 9.428999999999998
这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。
我们可以使用decimal模块避免这种操作(如果不介意牺牲下性能)：
from decimal import Decimal
a = Decimal('4.1')
b = Decimal('5.329')
print(a+b)
9.429
注意Decimal的参数必须是字符串，不能是浮点型，否则误差依旧存在。
decimal模块的主要功能是允许控制计算过程中的各个方面，包括数字的尾数和四舍五入。
from decimal import Decimal
from decimal import localcontext
a = Decimal(4.1)
b = Decimal(5.329)
print(a/b)
print('================')
with localcontext() as ctx:
ctx.prec = 3
print(a/b)
0.7693751172827922400071261708
================
0.769
getcontext也可以实现和localcontext一样的功能
from decimal import Decimal, getcontext a = Decimal(4.1) b = Decimal(5.329) getcontext().prec = 3 print(a/b) 0.769
误差我们不能完全消除，我们只能尽力优化算法，使得误差尽可能小。在大数和小数相加时要格外注意。
nums = [3.21e+18, 1, -3.21e+18]
print(sum(nums))
print('=========================')
import math
res = math.fsum(nums)
print(res)
0.0
=========================
1.0
以上这篇python执行精确的小数计算方法就是小编分享给大家的全部内容了，希望能给大家一个参考，也希望大家多多支持脚本之家。
相关文章
Celery是一个简单、灵活且可靠的，处理大量消息的分布式系统，专注于实时处理的异步任务队列，同时也支持任务调度。接下来通过本文给大家介绍Python中celery的使用详解，感兴趣的朋友一起看看吧2021-08-08
大家好，本篇文章主要讲的是python中的迭代器,生成器与装饰器详解，感兴趣的同学赶快来看一看吧，对你有帮助的话记得收藏一下2022-02-02
这篇文章主要介绍了python wordcloud库实例，词云通过以词语为基本单位，更加直观和艺术地展示文本。wordcloud是优秀的词云展示的python第三方库2022-12-12
这篇文章主要介绍了python逆向入门教程，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2018-01-01
今天小编就为大家分享一篇Python实现深度遍历和广度遍历的方法，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2019-01-01
Python 字符串处理特殊空格\xc2\xa0\t\n Non-breaking space
今天遇到一个问题，使用python的find函数寻找字符串中的第一个空格时没有找到正确的位置,下面是解决方法,需要的朋友可以参考下2020-02-02
这篇文章主要介绍了怎样用cmd命令行运行Python文件问题，具有很好的参考价值，希望对大家有所帮助。如有错误或未考虑完全的地方，望不吝赐教2023-06-06
列表中的元素还可以是另一个列表,这种列表称为多为列表,只有一层嵌套的多维列表称为二维列表,下面这篇文章主要给大家介绍了关于Python二维列表的创建、转换及访问的相关资料,需要的朋友可以参考下2022-04-04
美化Linux的terminal终端显示的方法多种多样,这里我们给出一个利用Python彩色化Linux的命令行终端界面的代码实例分享,包括一个Linux下简便执行Python程序的方法,需要的朋友可以参考下2016-07-07
本文主要介绍了利用Python爬虫实现抓取电影网站信息的功能，并将抓取到的信息入库。文中的示例代码讲解详细，感兴趣的小伙伴可以跟随小编一起了解一下2022-02-02
最新评论