Javascript浮點數(shù)乘積運算出現(xiàn)多位小數(shù)的解決方法
Javascript在進行浮點數(shù)的乘積運算,會出現(xiàn)多位小數(shù)的情況。
這是由于在運算的時候先把浮點數(shù)轉(zhuǎn)化成二進制后進行運算,但是有的小數(shù)在二進制編碼后出現(xiàn)無限循環(huán),因而導致計算出現(xiàn)了誤差,在其它變成語言中也有類似的問題。
原因解釋參考自百度知道:
例如:求1038.1-1000
1038.1=10000001110.0001100110011001100110011001100110011001100.....
1000 =1111101000
1038.1轉(zhuǎn)化為二進制是個無限循環(huán)小數(shù),1100是循環(huán)節(jié),只能取近似值,誤差就是這里產(chǎn)生的 如果瀏覽器版本高,可以用toFixed() 方法可把 Number 四舍五入為指定小數(shù)位數(shù)的數(shù)字。
解決方案:根據(jù)要保留的小數(shù)位數(shù)(如4),在計算乘積的時候先乘以(10^4),然后對計算結(jié)果除以(10^4),最后對結(jié)果取近似值Math.round
var m1 = 2232.00,
percent = (10/100),
total = percent*m1;
alert(total);//223.20000000000002
total = Math.round(total*10)/10;
alert(total);//223.2
相關(guān)文章
小程序組件傳值和引入sass的方法(使用vant Weapp組件庫)
這篇文章主要介紹了小程序組件傳值和引入sass使用vant Weapp組件庫,本文給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下2020-11-11