文档章节

精确计算时,不要使用float或double

H
 Henrykin
发布于 2017/08/31 08:52
字数 856
阅读 36
收藏 1

照例,还是来一段Effective Java的内容。内容大家应该已经都熟悉,不过还是发现很多新人完全不清楚,所以拿来共享一下。
一、病例:

Java code

System.out.println(1.03-0.42); // 0.6100000000000001System.out.println(1.00-9*0.10); //0.09999999999999998


又比如,每个单价0.10元,0.20元,0.30元,0.40元……,每种比前一种多0.10元。每样买一个,1元钱能买几个,找零多少

Java code

publicstaticvoid main(String[] args) { double funds =1.00; int itemsBought =0; for (double price =.10; funds >= price ; price += .10) { funds -= price; itemsBought++; } System.out.println(itemsBought +" items bought."); System.out.println("Change: $"+ funds); }


如果运行这个程序,它会告诉你共可以买3样,找零$0.3999999999999999,显然这是错误答案。

二、原因:
float/double不能停供完全精确的计算结果。这个原理其实很简单,float/int都是32bit(也就是一共有2^32个精确值),而int的范围是-2^31 ~ 2^31-1,而Float的最大值是3.4028235e+38,远大于2^31 - 1。而且,int只负责个数有限的整数,而浮点却要用来表示个数无穷的小数,显然力不从心。

浮点精确值可以简单视作一个以0为中心的正态分布,绝对值越小(越接近0的地方),相邻两个精确值月密集。比如,最近的两个值可能只相差0.00000...几十个0...01,而最远的两个精确值,却差了2.028241E31。浮点的表示采用IEEE 754,大家可以参考一下。

另外浮点数特别不适合用于货币计算。因为浮点型不可能精确表示0.1或者任何10的负数次幂的值。同样,如果计算的数字极大,或者精度要求很高,也不应该用浮点进行计算。

三、解决方案
A java.math.BigDecimal
与浮点不同,它可以提供精度任意(当然在硬件限制范围内)的计算结果,但是,只能进行四则运算或者基于四则运算的其他简单运算。

Java code

publicstaticvoid main(String[] args) { BigDecimal funds =new BigDecimal("1.00"); int itemsBought=0; for (BigDecimal price =new BigDecimal(".10"); funds.compareTo(price) >=0; price =price.add(new BigDecimal(".10"))) { funds = funds.subtract(price); itemsBought++; } System.out.println(itemsBought +" items bought."); System.out.println("Change: $"+ funds); }


需要注意的是:
1 虽然提供了double型构造函数或方法,但是仍然应使用String以提高精度
2 BigDecimal与String,Integer等类似,为不可变对象(Immutable),计算结果需要重新赋值给变量,下面的代码,没有任何效果。

Java code

a.add(b);


3 对于有些可能影响精度的计算(比如除法除不尽)可能需要提供计算结果的精确度及取舍依据。当然@since 1.5,可以不再提供,但是如果无法得出精确值或者除不尽,仍会ArithmeticException

Java code

a.divide(b, 3, // 保留3位小数BigDecimal.ROUND_HALF_UP); // 四舍五入,see BigDecimal.ROUND_XXXX,


ROUND_HALF_UP 四舍五入最常见
ROUND_HALV_EVEN 奇进偶不进,末尾如果不是5,同四舍五入 0.129 --> 0.13,末尾如是5,参考前一位奇偶 0.125 --> 0.12 0.115 --> 0.12,在科学计算时较常见,特别是有舍入后累加的情况,好于四舍五入
ROUND_DOWN,去尾,货币计算让零较常见

B int/long
在有些情况下,float/double可以直接用int/long替代。包括有些情况下的数据库存储也类似。
只说一句话,大家应该可以理解。话说:
1米 = 10分米 = 100厘米 = 1000毫米
1元 = 10角 = 100分

本文转载自:http://blog.csdn.net/qq_26222859/article/details/52600260

H
粉丝 4
博文 102
码字总数 12788
作品 0
广州
私信 提问
如果要求精确的答案,请避免使用float和double

float和double类型的主要设计目的是为了科学计算和工程计算。它们执行二进制浮点运算,这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而,它们没有提供完全精确的结果...

目翟
2013/11/19
0
3
精确运算避免使用float和double

在《你可能不知道的Java基础知识(一)》中,我提到使用浮点运算要慎重,感觉说的不够透彻,其实float和double类型主要是为科学和工程计算而设计的。他们执行的是二进制浮点运算,由于二进制...

凯文加内特
2015/11/24
789
0
Effective Java 第三版——60. 需要精确的结果时避免使用float和double类型

Tips 书中的源代码地址:https://github.com/jbloch/effective-java-3e-source-code 注意,书中的有些代码里方法是基于Java 9 API中的,所以JDK 最好下载 JDK 9以上的版本。 60. 需要精确的结...

M104
03/20
0
0
如果需要精确的答案,请避免使用float和double

float和double类型主要是为了科学计算和工程计算而设计的。它们执行二进制浮点运算,这是为了在广泛的数值范围上提供较为精确的快速近似计算而精心设计的。它们并没有提供完全精确的结果。 ...

ksfzhaohui
2012/12/13
0
1
java中浮点型数据的大小比较问题

一. 精度 举例:double result = 1.0 - 0.9; 这个结果不用说了吧,都知道了,0.09999999999999998 float和double类型主要是为了科学计算和工程计算而设计的。他们执行二进制浮点运算,这是为...

wangtx
2016/12/28
61
0

没有更多内容

加载失败,请刷新页面

加载更多

任务调度-第三方库Quartz实现分布式任务管理与调度

1. 为什么要用第三方库Quartz来实现分布式任务管理和调度? 首先管理的目的是通过集群多节点的管理提供容错,调度的目的是保证同一任务只会被完整执行一次;之前分享过的任务调度-单体应用定...

秋日芒草
18分钟前
2
0
Mysql Explain Type

前言 当我们执行sql,一般都会用Explain来查看sql的效率如何。今天在看sql执行效率的时候,忘记了其中Type的意思,现在在此记录一下。 效率 这里的type指的是访问类型,各个效率高低如下: ...

无敌小杰杰
27分钟前
2
0
外部浏览器网页复制公众号无法自动唤起微信并关注怎么办?

现在有很多用户在外部浏览器网页复制公众号时无法自动唤起微信并关注,这是因为第三方浏览器打开微信的接口,微信只给部分合作平台开放了接口权限,任何第三方想调用只能是通过一些技术手段来...

qjniop
31分钟前
1
0
建造者模式

建造者模式(Builder Pattern) 也叫生成器模式,其定义如下: Separate the construction of a complex object from its representation so that the same construction process can create d......

无知的小狼
36分钟前
0
0
距离计算方法

1、欧式距离(欧几里得距离) 欧式距离是最易理解的距离定义,即各坐标点的坐标之差的平方和相加,然后开根号。 二维平面上点 与点 之间的距离公式是: n维空间上点 和点 之间的距离公式是:...

城北徐公美
38分钟前
1
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部