文档章节

js中浮点型运算 bug的解决办法

Arthur126
 Arthur126
发布于 2015/12/09 11:27
字数 947
阅读 289
收藏 2

js中浮点型是如何运算的呢?

例如:var a=0.69;

我想得到6.9 直接这样写 var c=a*10;

alert(c);   得到结果是:6.8999999999999995

到网上一搜,有网友说这是一个JS浮点数运算Bug,找了解决方法:

方法一:有js自定义函数

/**
 * 校验是否为数字
 * @param arg
 * @return
 */
function checkIsNumber(arg){
    if(arg != null && arg.toString() != ""){
        var re = /^-?(0|[1-9]+\d*|[1-9]+\d*\.\d+|0\.\d+)$/;
        if(re.test(arg.toString())){
            return true;
        }
    }
    return false;
}

/**
 * 加法函数,用来得到精确的加法结果
 * 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。
 * 返回值注意:arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accAdd(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var r1,r2,m;
    try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;} 
    try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;} 
    m=Math.pow(10,Math.max(r1,r2));
    return (arg1*m+arg2*m)/m;
}

// 给Number类型增加一个add方法,调用起来更加方便。
Number.prototype.add = function (arg){
    return accAdd(this,arg);
}

/**
 * 减法函数,用来得到精确的减法结果
 * 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。
 * 返回值:arg1-arg2的值,arg1和arg2可能是整数、浮点数、null、空字符串、其他字符串
 * @param arg1
 * @param arg2
 * @return
 */
function accSub(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var r1,r2,m,n;    
    try{r1=arg1.toString().split(".")[1].length;}catch(e){r1=0;}    
    try{r2=arg2.toString().split(".")[1].length;}catch(e){r2=0;}
    m=Math.pow(10,Math.max(r1,r2));
    // n=(r1>=r2)?r1:r2; // 控制精度
    // return ((arg1*m-arg2*m)/m).toFixed(n);
    return (arg1*m-arg2*m)/m;
}

// 给Number类型增加一个subduct方法,调用起来更加方便。
Number.prototype.subduct = function (arg){
    return accSub(this,arg);
}

/**
 * 除法函数,用来得到精确的除法结果
 * 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。
 * 返回值:arg1除以arg2的精确结果
 * @param arg1
 * @param arg2
 * @return
 */
function accDiv(arg1,arg2){
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var t1,t2,r1,r2;
    try{t1=arg1.toString().split(".")[1].length;}catch(e){t1=0;} 
    try{t2=arg2.toString().split(".")[1].length;}catch(e){t2=0;}
    with(Math){
    r1=Number(arg1.toString().replace(".",""));
    r2=Number(arg2.toString().replace(".","")); 
    return (r1/r2)*pow(10,t2-t1); 
    } 
} 

// 给Number类型增加一个div方法,调用起来更加方便。
Number.prototype.div = function (arg){ 
    return accDiv(this,arg); 
} 

/**
 * 乘法函数,用来得到精确的乘法结果 
 * 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。
 * 返回值:arg1乘以arg2的精确结果 
 * @param arg1
 * @param arg2
 * @return
 */
function accMul(arg1,arg2) {
    if(!checkIsNumber(arg1) || !checkIsNumber(arg2)){
        return null;
    }
    var m=0,s1=arg1.toString(),s2=arg2.toString(); 
    try{m+=s1.split(".")[1].length;}catch(e){}
    try{m+=s2.split(".")[1].length;}catch(e){} 
    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); 
} 

// 给Number类型增加一个mul方法,调用起来更加方便。
Number.prototype.mul = function (arg){ 
    return accMul(this,arg); 
} 
var a=0.69;var b=10;
alert(a*b);//6.8999999999999995alert((a*100)/10);

直接调用函数就可以。


方法二:如果在知道小数位个数的前提下,可以考虑通过将浮点数放大倍数到整型(最后再除以相应倍数),再进行运算操作,这样就能得到正确的结果了

alert(11*22.9);//得到251.89999999999998
alert(11*(22.9*10)/10);//得到251.9


本文转载自:http://www.cnblogs.com/wangkongming/archive/2013/01/18/2866788.html

共有 人打赏支持
Arthur126
粉丝 1
博文 33
码字总数 17900
作品 0
徐汇
高级程序员
JavaScript_note1

参考文献《JavaWeb 从入门到精通》 1.JavaScript的语法 JavaScript区分大小写 每行结尾的分号可有可无 变量是弱类型的 使用大括号标记代码块 与Java语言相同,JavaScript也是使用一对大括号标...

凌川江雪
07/10
0
0
JavaScript学习笔记(二)

JavaScript的数据类型分为:原始类型和对象类型。JavaScript中有两个特殊的原始值:null(空)和undefined(未定义)。 JavaScript中所有数字均用浮点数值表示。javaScript采用64位浮点格式表示数...

第五郎
2014/03/29
0
0
JavaScript基础(二)变量和数据类型

javascript变量和数据类型 一、javascript命名规范 1. 严格区分大小写 2. 变量的命名必须以字母或 或 $开头,余下的部分可以是任意的字母,数字,或者是 或者是$ 3.不能用关键字或者是保留字...

曾杨
2013/12/25
0
0
WebAssembly 时代,Rust 也想成为 Web 语言

目前 Mozilla 正在基于 WebAssembly 可移植代码格式研发 JavaScript 和 Rust 之间的桥梁——wasm-bindgen,意义是提高 JavaScript 和 Rust 之间的互操作性。Mozilla 这么做是想让 Rust 成为类...

开源中国
04/10
0
0
前端开发最容易犯的13个JavaScript错误

前端开发最容易犯的13个JavaScript错误,你中标了没 开发者最容易犯的JavaScript错误,总结出13个。这些当中可能少不了你犯的错误^_^。我们描述了这些陋习,并列出来解决办法,希望对开发者有...

cacao111
07/11
0
0

没有更多内容

加载失败,请刷新页面

加载更多

Kafka技术资料总结(不断更新中)

1、Kafka实践:到底该不该把不同类型的消息放在同一个主题中 2、Kafka剖析系列: Kafka剖析(一):Kafka背景及架构介绍 Kafka设计解析(二):Kafka High Availability (上)...

九州暮云
32分钟前
1
0
面向对象设计原则(OOP)

单一职责原则(Single responsibility principle)又称单一功能原则。它规定一个类应该只有一个发生变化的原因。 核心原则:低耦合,高内聚。 一个类,应该只有一个引起它变化的原因,也就是...

gackey
今天
4
0
C++ 锁

C++提供了两种常用的锁,std::lock_guard<Lockable &T>和std::unique_lock<Lockable &T>。通常使用场景下,这两个锁用法一致。即,在构造锁对象时上锁,在析构锁对象时解锁。使用户从上锁/解...

yepanl
今天
4
0
Kali Linux Docker 練習

docker pull kalilinux/kali-linux-docker docker run -t -i kalilinux/kali-linux-docker /bin/bash apt-get update apt-get install htop apt-get install nmap apt-get install wpscan ap......

BaiyuanLab
今天
4
0
通俗大白话来理解TCP协议的三次握手和四次分手

最近在恶补计算机网络方面的知识,之前对于TCP的三次握手和四次分手也是模模糊糊,对于其中的细节更是浑然不知,最近看了很多这方面的知识,也在系统的学习计算机网络,加深自己的CS功底,就...

onedotdot
今天
4
0

没有更多内容

加载失败,请刷新页面

加载更多

返回顶部
顶部