JavaScript 浮點(diǎn)數(shù)運(yùn)算 精度問(wèn)題
<script type="text/javascript" language="javascript">
alert(1/3);//彈出: 0.3333333333333333
alert(0.09999999 + 0.00000001);//彈出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//彈出: -0.09999999999999999
alert(0.012345 * 0.000001);//彈出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//彈出: 0.009999999999999998
</script>
<script type="text/javascript" language="javascript">
alert(1/3);//彈出: 0.3333333333333333
alert(0.09999999 + 0.00000001);//彈出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//彈出: -0.09999999999999999
alert(0.012345 * 0.000001);//彈出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//彈出: 0.009999999999999998
</script>
[code]
按正常計(jì)算的話,除第一行外(因?yàn)槠浔旧砭筒荒艹M),其他都應(yīng)該要得到精確的結(jié)果,從彈出的結(jié)果我們卻發(fā)現(xiàn)不是我們想要的正確結(jié)果。為了解決浮點(diǎn)數(shù)運(yùn)算不準(zhǔn)確的問(wèn)題,在運(yùn)算前我們把參加運(yùn)算的數(shù)先升級(jí)(10的X的次方)到整數(shù),等運(yùn)算完后再降級(jí)(0.1的X的次方)。現(xiàn)收集并整理貼于此,以備后用。
加法
Js代碼
[code]
//說(shuō)明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。
//調(diào)用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精確結(jié)果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//給Number類型增加一個(gè)add方法,調(diào)用起來(lái)更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
//說(shuō)明:javascript的加法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的加法結(jié)果。
//調(diào)用:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精確結(jié)果
function accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//給Number類型增加一個(gè)add方法,調(diào)用起來(lái)更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
減法
Js代碼
[code]
//說(shuō)明:javascript的減法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的減法結(jié)果。
//調(diào)用:accSub(arg1,arg2)
//返回值:arg1減上arg2的精確結(jié)果
function accSub(arg1,arg2){
return accAdd(arg1,-arg2);
}
//給Number類型增加一個(gè)sub方法,調(diào)用起來(lái)更加方便。
Number.prototype.sub = function (arg){
return accSub(this,arg);
}
//說(shuō)明:javascript的減法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相加的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的減法結(jié)果。
//調(diào)用:accSub(arg1,arg2)
//返回值:arg1減上arg2的精確結(jié)果
function accSub(arg1,arg2){
return accAdd(arg1,-arg2);
}
//給Number類型增加一個(gè)sub方法,調(diào)用起來(lái)更加方便。
Number.prototype.sub = function (arg){
return accSub(this,arg);
}
乘法
Js代碼
//說(shuō)明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。
//調(diào)用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結(jié)果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//給Number類型增加一個(gè)mul方法,調(diào)用起來(lái)更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
//說(shuō)明:javascript的乘法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相乘的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的乘法結(jié)果。
//調(diào)用:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結(jié)果
function accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//給Number類型增加一個(gè)mul方法,調(diào)用起來(lái)更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
} 除法
Js代碼
//說(shuō)明:javascript的除法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相除的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的除法結(jié)果。
//調(diào)用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結(jié)果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number類型增加一個(gè)div方法,調(diào)用起來(lái)更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
//說(shuō)明:javascript的除法結(jié)果會(huì)有誤差,在兩個(gè)浮點(diǎn)數(shù)相除的時(shí)候會(huì)比較明顯。這個(gè)函數(shù)返回較為精確的除法結(jié)果。
//調(diào)用:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結(jié)果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number類型增加一個(gè)div方法,調(diào)用起來(lái)更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
測(cè)試一把
Js代碼
<script type="text/javascript" language="javascript">
/*
alert(0.09999999 + 0.00000001);//彈出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//彈出: -0.09999999999999999
alert(0.012345 * 0.000001);//彈出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//彈出: 0.009999999999999998
*/
alert(0.09999999.add(0.00000001));//彈出: 0.1
alert(-0.09999999.sub(0.00000001));//彈出: -0.09999998
alert(0.012345.mul(0.000001));//彈出: 1.2345e-8
alert(0.000001.div(0.0001));//彈出: 0.01
</script>
相關(guān)文章
javascript中Date對(duì)象應(yīng)用之簡(jiǎn)易日歷實(shí)現(xiàn)
這篇文章主要為大家詳細(xì)介紹了javascript中Date對(duì)象應(yīng)用之簡(jiǎn)易日歷實(shí)現(xiàn),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2016-07-07使用JS實(shí)現(xiàn)一個(gè)功能豐富的待辦事項(xiàng)應(yīng)用
在日常工作和生活中,我們經(jīng)常需要處理各種各樣的待辦事項(xiàng),這篇文章主要為大家詳細(xì)介紹了如何使用JavaScript實(shí)現(xiàn)一個(gè)功能豐富的待辦事項(xiàng)應(yīng)用,需要的可以了解下2024-01-01bootstrap為水平排列的表單和內(nèi)聯(lián)表單設(shè)置可選的圖標(biāo)
為水平排列的表單和內(nèi)聯(lián)表單設(shè)置可選的圖標(biāo)。本文通過(guò)示例代碼給大家講解,非常不錯(cuò),具有參考借鑒價(jià)值,需要的朋友參考下吧2017-02-02國(guó)外大牛IE版本檢測(cè)!現(xiàn)在IE都到9了,IE檢測(cè)代碼
有時(shí)會(huì)去看看國(guó)外大牛的一些代碼,并學(xué)習(xí),引用,并感嘆大牛就是大牛,差距不是一點(diǎn)點(diǎn),也在一點(diǎn)點(diǎn)的感嘆中慢慢拉進(jìn)和大牛的距離2012-01-01document.all還是document.getElementsByName?
document.all還是document.getElementsByName?...2006-07-07Webpack-cli安裝成功后查看webpack -v報(bào)錯(cuò)案例詳解
這篇文章主要介紹了Webpack-cli安裝成功后查看webpack -v報(bào)錯(cuò)案例詳解,本篇文章通過(guò)簡(jiǎn)要的案例,講解了該項(xiàng)技術(shù)的了解與使用,以下就是詳細(xì)內(nèi)容,需要的朋友可以參考下2021-09-0941個(gè)Web開發(fā)者必須收藏的JavaScript實(shí)用技巧
41個(gè)Web開發(fā)者必須收藏的JavaScript實(shí)用技巧,分享給大家,感興趣的小伙伴們可以參考一下2016-07-07不依賴Flash和任何JS庫(kù)實(shí)現(xiàn)文本復(fù)制與剪切附源碼下載
本篇文章給大家分享的文本復(fù)制與剪切板功能,實(shí)現(xiàn)此功能不依賴falsh插件和任何js庫(kù)實(shí)現(xiàn)的,感興趣的朋友一起看看吧2015-10-10