js中Number數(shù)字?jǐn)?shù)值運(yùn)算后值不對的解決方法
問題:
37.5*5.5=206.08 (JS算出來是這樣的一個結(jié)果,我四舍五入取兩位小數(shù))
我先懷疑是四舍五入的問題,就直接用JS算了一個結(jié)果為:206.08499999999998
怎么會這樣,兩個只有一位小數(shù)的數(shù)字相乘,怎么可能多出這么小數(shù)點(diǎn)出來。
我Google了一下,發(fā)現(xiàn)原來這是JavaScript浮點(diǎn)運(yùn)算的一個bug。
比如:7*0.8 JavaScript算出來就是:5.6000000000000005
解決方法:網(wǎng)上找到了一些解決辦法,就是重新寫了一些浮點(diǎn)運(yùn)算的函數(shù)。
下面就把這些方法摘錄下來,以供遇到同樣問題的朋友參考:
程序代碼
//除法函數(shù),用來得到精確的除法結(jié)果 //說明:javascript的除法結(jié)果會有誤差,在兩個浮點(diǎn)數(shù)相除的時候會比較明顯。這個函數(shù)返回較為精確的除法結(jié)果。 //調(diào)用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精確結(jié)果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } } //給Number類型增加一個div方法,調(diào)用起來更加方便。 Number.prototype.div = function (arg){ return accDiv(this, arg); } //乘法函數(shù),用來得到精確的乘法結(jié)果 //說明:javascript的乘法結(jié)果會有誤差,在兩個浮點(diǎn)數(shù)相乘的時候會比較明顯。這個函數(shù)返回較為精確的乘法結(jié)果。 //調(diào)用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精確結(jié)果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } //給Number類型增加一個mul方法,調(diào)用起來更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); } //加法函數(shù),用來得到精確的加法結(jié)果 //說明:javascript的加法結(jié)果會有誤差,在兩個浮點(diǎn)數(shù)相加的時候會比較明顯。這個函數(shù)返回較為精確的加法結(jié)果。 //調(diào)用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精確結(jié)果 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } //給Number類型增加一個add方法,調(diào)用起來更加方便。 Number.prototype.add = function (arg){ return accAdd(arg,this); }
減法函數(shù)
function accSub(arg1, arg2) { var r1, r2, m, n; try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 } try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 } m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //動態(tài)控制精度長度 n = (r1 >= r2) ? r1 : r2; return ((arg1 * m - arg2 * m) / m).toFixed(n); }
在你要用的地方包含這些函數(shù),然后調(diào)用它來計算就可以了。
比如你要計算:7*0.8 ,則改成 (7).mul(8)
其它運(yùn)算類似,就可以得到比較精確的結(jié)果。
以上這篇js中Number數(shù)字?jǐn)?shù)值運(yùn)算后值不對的解決方法就是小編分享給大家的全部內(nèi)容了,希望能給大家一個參考,也希望大家多多支持腳本之家。
相關(guān)文章
微信小程序中實(shí)現(xiàn)手指縮放圖片的示例代碼
本篇文章主要介紹了微信小程序中實(shí)現(xiàn)手指縮放圖片的示例代碼,小編覺得挺不錯的,現(xiàn)在分享給大家,也給大家做個參考。一起跟隨小編過來看看吧2018-03-03JS浮點(diǎn)數(shù)運(yùn)算結(jié)果不精確的Bug解決
這篇文章主要給大家介紹了關(guān)于JS浮點(diǎn)數(shù)運(yùn)算結(jié)果不精確的Bug解決,文中通過示例代碼介紹的非常詳細(xì),對大家學(xué)習(xí)或者使用JS具有一定的參考學(xué)習(xí)價值,需要的朋友們下面來一起學(xué)習(xí)學(xué)習(xí)吧2019-08-08JavaScript-定時器0~9抽獎系統(tǒng)詳解(代碼)
這篇文章主要介紹了 JavaScript-定時器0~9抽獎系統(tǒng),通過代碼實(shí)例說明函數(shù)調(diào)用的整體操作,具體步驟大家可查看下文的詳細(xì)講解,感興趣的小伙伴們可以參考一下。2017-08-08javascript實(shí)現(xiàn)支付寶滑塊驗(yàn)證碼效果
這篇文章主要為大家詳細(xì)介紹了javascript實(shí)現(xiàn)支付寶滑塊驗(yàn)證碼效果,文中示例代碼介紹的非常詳細(xì),具有一定的參考價值,感興趣的小伙伴們可以參考一下2020-07-07js動態(tài)設(shè)置鼠標(biāo)事件示例代碼
動態(tài)設(shè)置鼠標(biāo)事件的方法有很多,接下來為大家介紹下js中是如何做到的,感興趣的朋友不要錯過2013-10-10原生JavaScript實(shí)現(xiàn)合并多個數(shù)組示例
這篇文章主要介紹了原生的JavaScript及jquery實(shí)現(xiàn)合并多個數(shù)組,很簡單,很實(shí)用,大家可以看看2014-09-09