js小數(shù)運(yùn)算出現(xiàn)多位小數(shù)如何解決
和大家分享一個(gè)有趣的測(cè)試:
0.1+0.2 == 0.3 //false
頓時(shí)郁悶,好吧!原來(lái)0.1+0.2變成:0.30000000000000004
再來(lái)一個(gè) 2.4/0.8 =>2.9999999999999996 沒(méi)辦法換種方式,都轉(zhuǎn)換成整數(shù) (2.4 * 100)/(0.8 * 100)
10.22 現(xiàn)在要減去 0.11 結(jié)果值又出現(xiàn)了很多的小數(shù) 10.110000000000001,然后我就用了 toFixed 方法來(lái)過(guò)濾小數(shù),但是不知道跟前面那種轉(zhuǎn)換成整數(shù)后再執(zhí)行哪種效率高,好!還是試下再說(shuō)吧!
var date1 = new Date(); for(var i = 0; i < 10000; i++){ var result1 = (10.22 - 0.11).toFixed(2); } alert(new Date() - date1);//效率低 var date2 = new Date(); for(var j = 0; j < 10000; j++){ var result2 = (10.22 * 1000 - 0.11 * 1000) / 1000; } alert(new Date() - date2);//效率高 alert(0.1 + 0.2 == 0.3); //既然返回false alert(0.1 + 0.2); //既然返回0.30000000000000004 alert(parseFloat(0.1) + parseFloat(0.2)); //還是返回0.30000000000000004
查了一些資料,一是 JavaScript 浮點(diǎn)數(shù)計(jì)算的 Bug,另一個(gè)是和計(jì)算機(jī)最終轉(zhuǎn)換成二進(jìn)制計(jì)算有關(guān)系,但是為什么不是所有小數(shù)都會(huì)有這種現(xiàn)象,目前我也不清楚,有時(shí)間再去深入研究一下。
解決方法:
解決這種問(wèn)題兩種方法,第一種就是利用JavaScript 的toFixed(n) 方法,直接獲取N 位小數(shù),不過(guò),個(gè)人覺(jué)得這種方法在數(shù)據(jù)精度上會(huì)有一些問(wèn)題。如果數(shù)據(jù)精度要求不高的話可以使用。
alert((0.1 + 0.2).toFixed(1));
第二種方法就是自己編寫運(yùn)算方法。以下是自定義加法函數(shù),使用此方法進(jìn)行相加會(huì)避免上面問(wèn)題。
//自定義加法運(yùn)算 function addNum (num1, num2) { var sq1,sq2,m; try { sq1 = num1.toString().split(".")[1].length; } catch (e) { sq1 = 0; } try { sq2 = num2.toString().split(".")[1].length; } catch (e) { sq2 = 0; } m = Math.pow(10,Math.max(sq1, sq2)); return (num1 * m + num2 * m) / m; } alert(addNum(0.1, 0.2));
當(dāng)然,簡(jiǎn)單一點(diǎn)也可以寫成:alert((num * 3 + 10 * 3) /3); 這樣也不會(huì)出現(xiàn) N 多位小數(shù)。
alert((num * 3 + 10 * 3) /3); 與 alert(num + 10); 這兩種寫法計(jì)算機(jī)在底層轉(zhuǎn)換成二進(jìn)制運(yùn)算是有區(qū)別的,或許這就是出現(xiàn)上述問(wèn)題的原因,還有待我們?nèi)ド钊胙芯浚蠹铱梢远喽嘤懻摗?/p>
相關(guān)文章
基于d3.js/neovis.js/neod3.js實(shí)現(xiàn)鏈接neo4j圖形數(shù)據(jù)庫(kù)的圖像化顯示功能
neovis.js?由vis.js支持的圖形可視化以及來(lái)自Neo4j的數(shù)據(jù)。這篇文章主要介紹了基于d3.js/neovis.js/neod3.js實(shí)現(xiàn)鏈接neo4j圖形數(shù)據(jù)庫(kù)的圖像化顯示功能,需要的朋友可以參考下2022-02-02js中通過(guò)getElementsByName訪問(wèn)name集合對(duì)象的方法
下面小編就為大家?guī)?lái)一篇js中通過(guò)getElementsByName訪問(wèn)name集合對(duì)象的方法。小編覺(jué)得挺不錯(cuò)的,現(xiàn)在就分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2016-10-10JavaScript改變HTML元素的樣式改變CSS及元素屬性
改變CSS及元素屬性的方法有很多,在本文將為大家介紹下使用js是如何做到的,感興趣的朋友可以感受下2013-11-11微信小程序?qū)崿F(xiàn)彈出輸入框代碼實(shí)例
最近在寫一個(gè)微信小程序,有一個(gè)需求是點(diǎn)擊一個(gè)按鈕后,出現(xiàn)一個(gè)輸入框,然后根據(jù)用戶的輸入再進(jìn)行操作,所以這篇文章主要給大家介紹了關(guān)于微信小程序?qū)崿F(xiàn)彈出輸入框的相關(guān)資料,需要的朋友可以參考下2023-09-09動(dòng)態(tài)載入js提高網(wǎng)頁(yè)打開速度的方法
這篇文章主要介紹了動(dòng)態(tài)載入js提高網(wǎng)頁(yè)打開速度的方法,需要的朋友可以參考下2014-07-07