[00302]执行精确的浮点数运算
2017-01-16 11:03
218 查看
执行精确的浮点数运算
一、 解决问题
需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现二、解决方案
decimal 模块三、代码说明
#!/usr/bin/env pthon from decimal import Decimal """ Decimal 接受字符串来表示数字, 一般用于金融领域 """ a = Decimal("4.2") b = Decimal("2.1") c = a + b print (c) #->6.3
""" Decimal 允许控制计算的每一个方面, 包括数字位数和四舍五入运算 """ from decimal import localcontext from decimal import Decimal a = Decimal("1.3") b = Decimal("1.7") print (a / b) #->0.7647058823529411764705882353 with localcontext() as ctx: ctx.prec = 3 print (a / b) #->0.765
四、关联知识
decimal 模块配置 传送门,待补充五、总结
六、代码地址
github地址:https://github.com/weichen666/python_cookbooka>目录/文件:third_selection/learn_data_date_time_decimal.py
七、参考
相关文章推荐
- 精确的浮点数运算包括加减乘除和四舍五入
- JavaScript不支持精确的浮点数运算的解决方案
- python中实现精确的浮点数运算详解
- <转>JAVA精确的浮点数运算
- Java的简单类型进行精确的浮点数运算
- Java的简单类型进行精确的浮点数运算
- 工具类---提供精确的浮点数运算
- java中使用BigDecimal类来实现浮点数的精确运算
- 工具类提供精确的浮点数运算
- 异或加密法 在对文本进行简单加密的时候,可以选择用一个n位的二进制数,对原文进行异或运算。 解密的方法就是再执行一次同样的操作。
- BigDecimal 执行精确小数计算
- 精确计算代码执行时间
- 《编程之美》学而思-精确表达浮点数
- 使用BigDecimal进行精确运算
- Java 执行四则运算
- Java中使用BigDecimal进行浮点数精确计算、超大整数、浮点数等计算,没有数位限制
- 浮点数的表示和基本运算
- java浮点数正确运算方法
- 获取C#代码执行的时间(精确到毫秒)
- 浮点数的相关运算Java实现