javascript中的float運算精度實例分析
更新時間:2010年08月21日 15:17:41 作者:
javascript中的float運算精度的一些問題,下面是具體的說明。
有人問到一個js問題:
var i = 0.07;
var r = i*100;
alert(r);
結(jié)果為什么是7.0000000000000001?
查了下資料,其實我們知道JavsScript中,變量在存儲時并不區(qū)分number和float類型,而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標準定義的64bit浮點格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應的整形部分長度為10,小數(shù)部分長度為16,所以默認的計算結(jié)果為“7.0000000000000001”,如最后一個小數(shù)為0,則取1作為有效數(shù)字標志。
類似地,我們可以想像,1/3的結(jié)果應該是0.3333333333333333。
那么如何校正這個值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
復制代碼 代碼如下:
var i = 0.07;
var r = i*100;
alert(r);
結(jié)果為什么是7.0000000000000001?
查了下資料,其實我們知道JavsScript中,變量在存儲時并不區(qū)分number和float類型,而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標準定義的64bit浮點格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應的整形部分長度為10,小數(shù)部分長度為16,所以默認的計算結(jié)果為“7.0000000000000001”,如最后一個小數(shù)為0,則取1作為有效數(shù)字標志。
類似地,我們可以想像,1/3的結(jié)果應該是0.3333333333333333。
那么如何校正這個值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼:
復制代碼 代碼如下:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
相關文章
6種JavaScript繼承方式及優(yōu)缺點(小結(jié))
這篇文章主要介紹了6種JavaScript繼承方式及優(yōu)缺點(小結(jié)),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧2020-02-02基于BootstrapValidator的Form表單驗證(24)
這篇文章主要為大家詳細介紹了基于BootstrapValidator的Form表驗證,具有一定的參考價值,感興趣的小伙伴們可以參考一下2016-12-12JS JSON對象轉(zhuǎn)為字符串的簡單實現(xiàn)方法
這篇文章主要介紹了JS中JSON對象轉(zhuǎn)為字符串的簡單實現(xiàn)方法。需要的朋友可以過來參考下,希望對大家有所幫助2013-11-11IE和Firefox下javascript的兼容寫法小結(jié)
學習js的朋友必須要知道或了解的知識2008-12-12JS實現(xiàn)多級菜單中當前菜單不隨頁面跳轉(zhuǎn)樣式而發(fā)生變化
本文介紹了JQuery巧妙實現(xiàn)多級菜單中當前菜單不隨頁面跳轉(zhuǎn)樣式發(fā)生變化,實現(xiàn)方法非常簡單,感興趣的朋友一起看看吧2017-05-05