关于Python中浮点数精度处理的技巧总结
更新时间：2017年08月10日 09:14:39 作者：杰瑞26
双精度浮点数(double)是计算机使用的一种数据类型，使用 64 位（8字节） 来存储一个浮点数。下面这篇文章主要给大家总结介绍了关于Python中浮点数精度处理的技巧，需要的朋友可以参考借鉴，下面来一起看看吧。
前言
最近在使用Python的时候遇到浮点数运算，发现经常会碰到如下情况:
出现上面的情况，主要还是因浮点数在计算机中实际是以二进制保存的，有些数不精确。
比如说: 0.1是十进制，转化为二进制后它是个无限循环的数：
0.00011001100110011001100110011001100110011001100110011001100
而python是以双精度(64)位来保存浮点数，多余的位会被截掉，所以看到的是0.1，但在电脑上实际保存的已不是精确的0.1，参与运算后，也就有可能点误差,特别是金融邻域里面，对精度更是要求更高，如何在Python中获取特定位数精度值?
【方法一】利用round方法:
【方法二】利用decimal模块:
更多关于Python相关内容感兴趣的读者可查看本站专题：《Python数学运算技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》
总结
以上就是这篇文章的全部内容了，希望本文的内容对大家的学习或者工作能带来一定的帮助，如果有疑问大家可以留言交流，谢谢大家对脚本之家的支持。
相关文章
这篇文章主要介绍了Python聚类算法之基本K均值运算技巧,结合实例形式较为详细的分析了基本K均值的原理与相关实现技巧,具有一定参考借鉴价值,需要的朋友可以参考下2015-11-11
这篇文章主要介绍了Python变量作用范围,实例分析了Python中变量的定义与相关作用域,是Python学习中非常重要的基本技巧,需要的朋友可以参考下2015-07-07
pydantic库是一种常用的用于数据接口schema定义与检查的库,通过pydantic库,我们可以更为规范地定义和使用数据接口,下面这篇文章主要给大家介绍了关于python库pydantic的简易入门教程,需要的朋友可以参考下2022-03-03
下面小编就为大家分享一篇python用户管理系统的实例讲解，具有很好的参考价值，希望对大家有所帮助。一起跟随小编过来看看吧2017-12-12
这篇文章主要介绍了Python用类实现扑克牌发牌的示例代码，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-06-06
这篇文章主要介绍了详细解析Python中的变量的数据类型,是Python学习当中的基础知识,需要的朋友可以参考下2015-05-05
这篇文章主要介绍了用 Python 连接 MySQL 的几种方式，大家可以根据实际情况选择合理的连接方式,需要的朋友可以参考下2018-04-04
这篇文章主要介绍了Django使用AJAX调用自己写的API接口的方法，小编觉得挺不错的，现在分享给大家，也给大家做个参考。一起跟随小编过来看看吧2019-03-03
大家好，本篇文章主要讲的是用python生成一张壁纸实例代码，感兴趣的同学赶快来看一看吧，对你有帮助的话记得收藏一下2022-02-02
这篇文章主要介绍了Pytorch 使用不同版本的cuda的方法步骤，文中通过示例代码介绍的非常详细，对大家的学习或者工作具有一定的参考学习价值，需要的朋友们下面随着小编来一起学习学习吧2020-04-04
最新评论