文档章节

js中浮点型运算 bug的解决办法

Arthur126
 Arthur126
发布于 2015/12/09 11:27
字数 947
阅读 262
收藏 2
点赞 0
评论 0

js中浮点型是如何运算的呢?

例如:var a=0.69;

我想得到6.9 直接这样写 var c=a*10;

alert(c);   得到结果是:6.8999999999999995

到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法:

方法一:有js自定义函数

/**
 * 校验是否为数字
 * @param arg
 * @return
 */
function checkIsNumber(arg){
    if(arg != null && arg.toString() != ""){
        var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
        if(re.test(arg.toString())){
            return true;
        }
    }
    return false;
}

/**
 * 加法函数,用来得到精确的加法结果
 * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accAdd(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} 
    try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} 
    m=Math.pow(10,Math.max(r1,r2));
    return (arg1*m+arg2*m)/m;
}

// 给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
    return accAdd(this,arg);
}

/**
 * 减法函数,用来得到精确的减法结果
 * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accSub(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var r1,r2,m,n;    
    try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}    
    try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
    m=Math.pow(10,Math.max(r1,r2));
    // n=(r1>=r2)?r1:r2; // 控制精度
    // return ((arg1*m-arg2*m)/m).toFixed(n);
    return (arg1*m-arg2*m)/m;
}

// 给Number类型增加一个subduct方法,调用起来更加方便。
Number.prototype.subduct = function (arg){
    return accSub(this,arg);
}

/**
 * 除法函数,用来得到精确的除法结果
 * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 * 返回值:arg1除以arg2的精确结果
 * @param arg1
 * @param arg2
 * @return
 */
function accDiv(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var t1,t2,r1,r2;
    try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} 
    try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
    with(Math){
    r1=Number(arg1.toString().replace(".",""));
    r2=Number(arg2.toString().replace(".","")); 
    return (r1/r2)*pow(10,t2-t1); 
    } 
} 

// 给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){ 
    return accDiv(this,arg); 
} 

/**
 * 乘法函数,用来得到精确的乘法结果 
 * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 * 返回值:arg1乘以arg2的精确结果 
 * @param arg1
 * @param arg2
 * @return
 */
function accMul(arg1,arg2) {
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var m=0,s1=arg1.toString(),s2=arg2.toString(); 
    try{m+=s1.split(".")[1].length;}catch(e){}
    try{m+=s2.split(".")[1].length;}catch(e){} 
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); 
} 

// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){ 
    return accMul(this,arg); 
} 
var a=0.69;var b=10;
alert(a*b);//6.8999999999999995alert((a*100)/10);

直接调用函数就可以。


方法二:如果在知道小数位个数的前提下,可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数),再进行运算操作,这样就能得到正确的结果了

alert(11*22.9);//得到251.89999999999998
alert(11*(22.9*10)/10);//得到251.9


© 著作权归作者所有

共有 人打赏支持
Arthur126
粉丝 1
博文 33
码字总数 17900
作品 0
徐汇
高级程序员
WebAssembly 时代,Rust 也想成为 Web 语言

目前 Mozilla 正在基于 WebAssembly 可移植代码格式研发 JavaScript 和 Rust 之间的桥梁——wasm-bindgen,意义是提高 JavaScript 和 Rust 之间的互操作性。Mozilla 这么做是想让 Rust 成为类...

开源中国 ⋅ 04/10 ⋅ 0

怪异的JavaScript系列(三)

译者按: JavaScript有很多坑,经常一不小心就要写bug。 原文: What the f*ck JavaScript? 译者: Fundebug 为了保证可读性,本文采用意译而非直译。另外,本文版权归原作者所有,翻译仅用于学...

Fundebug ⋅ 04/26 ⋅ 0

JavaScript入门 Day1

课程介绍 编程语言介绍(了解) JavaScript简介(了解) JavaScript入门 运算符(掌握) JavaScript基本语法(掌握) 位运算符(了解) 1.编程语言 1.1.什么是编程语言 编程语言(programmi...

何老师编程 ⋅ 06/02 ⋅ 0

JavaScript的高精度计算与JSON.parse的BIGINT

在JavaScript处理整数的时候会遇到某些特别奇怪的问题,比如后台给你返回了一个超长的数字,然后js在计算的时候突然发现计算不对,不是后面为0就是计算得不到想要的结果.这里涉及到一个很简单的...

relsoul ⋅ 05/10 ⋅ 0

WEB前端学习面试加分题:同学,你了解TypeScript吗?

Web前端开发工程师是一个很新的职业,是从事Web前端开发工作的工程师。主要进行网站开发,优化,完善的工作。网页制作是Web 1.0时代的产物,那时网站的主要内容都是静态的,用户使用网站的行...

web前端小辰 ⋅ 05/11 ⋅ 0

怪异的JavaScript系列(二)

译者按: JavaScript有很多坑,经常一不小心就要写bug。 原文: What the f*ck JavaScript? 译者: Fundebug 为了保证可读性,本文采用意译而非直译。另外,本文版权归原作者所有,翻译仅用于学...

Fundebug ⋅ 04/25 ⋅ 0

React Native在Android当中实践(五)——常见问题

React Native在Android当中实践(一)——背景介绍 React Native在Android当中实践(二)——搭建开发环境 React Native在Android当中实践(三)——集成到Android项目当中 React Native在A...

YangZC ⋅ 05/28 ⋅ 0

隐藏在 Node.js 浮点反序列化错误背后的故事

原文作者:孝达 在 Node.js 中,当我们把一个浮点数序列化,再反序列化: 我们会发现,再也取不出之前的值了: 然而,如果再序列化回去,发现结果还是相同的: 我勒个去!What happened? 排...

_朴灵_ ⋅ 05/14 ⋅ 0

《WebGL编程指南》学习笔记——4.绘制一个点

《WebGL编程指南》学习笔记——4.绘制一个点 之前,我们学习了如何建立一个WebGL程序,如何使用一些简单的WebGL相关函数。这一节,我们进一步在一个示例程序中绘制一个最简单的图形:一个点。...

hushhw ⋅ 2017/12/24 ⋅ 0

前端基础之JavaScript

一、JavaScript的历史 略 二、ECMAScript 注:ES6就是指ECMAScript 6。 尽管 ECMAScript 是一个重要的标准,但它并不是 JavaScript 唯一的部分,当然,也不是唯一被标准化的部分。实际上,一...

西鼠 ⋅ 05/09 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

内核线程、轻量级进程、用户线程

线程与进程概念 在现代操作系统中,进程支持多线程。 进程是资源管理的最小单元; 线程是程序执行的最小单元。 即线程作为调度和分配的基本单位,进程作为资源分配的基本单位 一个进程的组成...

117 ⋅ 29分钟前 ⋅ 0

elasticsearch2.4.6升级为elasticsearch-5.5.0的经历

将elasticsearch-5.5.0 中的配置 path.data 指向原来的数据路径 即 path.data: /usr/local/src/elasticsearch-2.4.6/data 注意: elasticsearch-5.5.0 需要将jdk版本升级到1.8...

晨猫 ⋅ 29分钟前 ⋅ 1

lvm讲解 磁盘故障小案例

1

oschina130111 ⋅ 34分钟前 ⋅ 0

那些提升开发人员工作效率的在线工具

本文转载自公众号 Hollis 作为一个Java开发人员,经常要和各种各样的工具打交道,除了我们常用的IDE工具以外,其实还有很多工具是我们在日常开发及学习过程中要经常使用到的。 Hollis偏爱使用...

时刻在奔跑 ⋅ 46分钟前 ⋅ 0

restful风格 实现DELETE PUT请求 的web.xml的配置

import org.springframework.beans.factory.annotation.Autowired; import org.springframework.http.HttpStatus; import org.springframework.http.ResponseEntity; import org.springframe......

泉天下 ⋅ 51分钟前 ⋅ 0

Shell数组

Shell数组 Shell在编程方面比Windows批处理强大很多,无论是在循环、运算。 bash支持一维数组(不支持多维数组),并且没有限定数组的大小。类似与C语言,数组元素的下标由0开始编号。获取数...

蜗牛奔跑 ⋅ 今天 ⋅ 0

nmap为了开发方便 可以做简单的修改

因为nmap扫描是默认使用的是nse脚本,但是在开发的过程中需要修改后缀(主要是因为后缀为lua才能显示高亮,所以这里用一个取巧的办法) nse_main.lua文件中我们找到如下代码 local t, path = cn...

超级大黑猫 ⋅ 今天 ⋅ 0

springmvc获取axios数据为null情况

场景:前端用了vue没有用ajax与后台通信,用了axios,但是在代码运行过程中发现axios传递到后台的值接受到数据为null。 问题原因:此处的问题在与axios返回给后台的数据为json类型的,后台接...

王子城 ⋅ 今天 ⋅ 0

hadoop技术入门学习之发行版选择

经常会看到这样的问题:零基础学习hadoop难不难?有的人回答说:零基础学习hadoop,没有想象的那么难,也没有想象的那么容易。看到这样的答案不免觉得有些尴尬,这个问题算是白问了,因为这个...

左手的倒影 ⋅ 今天 ⋅ 0

806. Number of Lines To Write String - LeetCode

Question 806. Number of Lines To Write String Solution 思路:注意一点,如果a长度为4,当前行已经用了98个单元,要另起一行。 Java实现: public int[] numberOfLines(int[] widths, Str...

yysue ⋅ 今天 ⋅ 0

没有更多内容

加载失败,请刷新页面

加载更多

下一页

返回顶部
顶部