关于浮点数与精确小数计算的理解

2019/04/10 10:10
阅读数 17

下面这篇文章探讨的是关于浮点数与精确小数计算的理解。

小数在大家的生活中太常见了,这玩意小学就教,计算机程序里也经常用到,所以它可能不太被人注意。

但现实是,如果你不了解小数在计算机的世界里是怎么玩的,你就很可能在程序中因错误使用小数而犯错。

本文不深入剖析小数在计算机中的表示形式(IEEE 754 规范),意在讲清楚计算机中使用小数会出现什么问题,以及解决方案。

浮点数带来的问题

假如你在面试,面试官看到你有和金融,银行相关的项目的经历,可能会问你记录存款和消费金额等与钱有关的数据时使用什么数据类型?

如果你能答上来BigDecimal等小数工具类的话,他可能会继续问你:为什么放着现成的float和double不用,要使用小数工具类呢?

这里就涉及到浮点数在计算机系统中存储的问题了。

我们可以通过自己熟悉的语言快速地重新浮点数计算不精确的现象,本文以Java为例进行展示:

public class Main {
    public static void main(String[] args){
        System.out.println(0.01 + 0.09);
        System.out.println(1 - 0.32);
        System.out.println(1.015 * 100);
    }
}

//输出结果:
0.09999999999999999
0.6799999999999999
101.49999999999999

那么究竟为什么会出现这样的不精确现象呢?

众所周知计算机的世界是一个二进制的世界,计算机系统内部的一切数据终究会落实到0和1这两个数字上。但我们人类世界中基本都是使用十进制,要想把人类的问题交给计算机解决,就必须有一个把十进制数转换为二进制数的过程,浮点数的问题就出在这个转换的过程中。

想要把一个十进制的整数转换为二进制,简单!数学上只要对目标整数不断除以二,直到除尽或余数为1即可,这样的转换是精确的。其背后的原理是所有的整数都能通过2^n之和加上正负号来表示(n取所有正整数和0)

但是想要把一个十进制的小数转换为二进制,就不那么简单了。根本原因在于2^n之和加上正负号(n取所有负整数)不能表示所有的小数!

从数学上把一个小数从十进制转换为二进制,你需要对小数不断乘以二,直到得到1才算转换完成。事实上能完成这一转换的小数不多,大多数小数才乘以二的过程中都会进入一个循环的序列,导致无法精确地把一个小数从十进制转换为二进制。

解决浮点数问题,精确计算小数

既然我们已经知道了计算机能准确计算整数,但不能准确计算小数。那我们可以这样想:如果把小数转换为整数,让计算机计算整数,在得出精确的计算结果后再转换为小数,这样计算结果不就精确了吗?

按照这个思路,人们封装了精确计算小数的工具类,在Java中这个工具类叫做BigDecimal,我们可以通过一次Debug验证一下是否真的是这么干的:

public class Main {
    public static void main(String[] args){
        BigDecimal bd1 = new BigDecimal("123.456");
        BigDecimal bd2 = new BigDecimal("654.321");
        BigDecimal result = bd1.add(bd2);
        System.out.println(result.toString());
    }
}

//输出结果:
777.777

参考文章:

https://zhuanlan.zhihu.com/p/71796835 https://mp.weixin.qq.com/s/Cd4uRslnek8r_a6chjwnYQ https://www.jianshu.com/p/61044808321f

原文出处:https://www.cnblogs.com/tanshaoshenghao/p/12336782.html

展开阅读全文
打赏
0
0 收藏
分享
加载中
更多评论
打赏
0 评论
0 收藏
0
分享
返回顶部
顶部