javascript中的float運(yùn)算精度實(shí)例分析
更新時(shí)間:2010年08月21日 15:17:41 作者:
javascript中的float運(yùn)算精度的一些問題,下面是具體的說明。
有人問到一個js問題:
var i = 0.07;
var r = i*100;
alert(r);
結(jié)果為什么是7.0000000000000001?
查了下資料,其實(shí)我們知道JavsScript中,變量在存儲時(shí)并不區(qū)分number和float類型,而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標(biāo)準(zhǔn)定義的64bit浮點(diǎn)格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應(yīng)的整形部分長度為10,小數(shù)部分長度為16,所以默認(rèn)的計(jì)算結(jié)果為“7.0000000000000001”,如最后一個小數(shù)為0,則取1作為有效數(shù)字標(biāo)志。
類似地,我們可以想像,1/3的結(jié)果應(yīng)該是0.3333333333333333。
那么如何校正這個值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
復(fù)制代碼 代碼如下:
var i = 0.07;
var r = i*100;
alert(r);
結(jié)果為什么是7.0000000000000001?
查了下資料,其實(shí)我們知道JavsScript中,變量在存儲時(shí)并不區(qū)分number和float類型,而是統(tǒng)一按float存儲。而javascript使用IEEE 754-2008 標(biāo)準(zhǔn)定義的64bit浮點(diǎn)格式存儲number,按照IEEE 754的定義: http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64對應(yīng)的整形部分長度為10,小數(shù)部分長度為16,所以默認(rèn)的計(jì)算結(jié)果為“7.0000000000000001”,如最后一個小數(shù)為0,則取1作為有效數(shù)字標(biāo)志。
類似地,我們可以想像,1/3的結(jié)果應(yīng)該是0.3333333333333333。
那么如何校正這個值呢?
可以用以下方法:
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
以上兩種方法都可以得到7
附全部測試代碼:
復(fù)制代碼 代碼如下:
<html>
<head>
<title>測試腳本</title>
<script language="JAVASCRIPT">
function init()
{
var i = 0.07;
var r = i*100;
var r2=Math.round((i*100)*1000)/1000;
var r3 = eval(i*100);
var r4=parseInt(i*100);
var r5=parseFloat(i*100*1.0000);
var r6=(1/3);
alert(r);
alert("Math.round="+r2);
alert("eval="+r3);
alert("parseInt="+r4);
alert("parseFloat="+r5);
alert(""+r6);
}
</script>
</head>
<body onload="init();">
</body>
</html>
相關(guān)文章
alert中斷settimeout計(jì)時(shí)功能
在測試過程中發(fā)現(xiàn)alert會中斷settimeout的計(jì)時(shí)功能,關(guān)閉對話框后,settimeout的時(shí)間會重頭開始計(jì)時(shí),而不是從中斷處,感興趣的朋友可以了解下2013-07-076種JavaScript繼承方式及優(yōu)缺點(diǎn)(小結(jié))
這篇文章主要介紹了6種JavaScript繼承方式及優(yōu)缺點(diǎn)(小結(jié)),文中通過示例代碼介紹的非常詳細(xì),對大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來一起學(xué)習(xí)學(xué)習(xí)吧2020-02-02基于BootstrapValidator的Form表單驗(yàn)證(24)
這篇文章主要為大家詳細(xì)介紹了基于BootstrapValidator的Form表驗(yàn)證,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2016-12-12純javascript實(shí)現(xiàn)簡單下拉刷新功能
這篇文章主要介紹了純javascript實(shí)現(xiàn)簡單下拉刷新功能,沒有借助任何的框架,十分簡單實(shí)用,有需要的小伙伴來參考下吧。2015-03-03JS JSON對象轉(zhuǎn)為字符串的簡單實(shí)現(xiàn)方法
這篇文章主要介紹了JS中JSON對象轉(zhuǎn)為字符串的簡單實(shí)現(xiàn)方法。需要的朋友可以過來參考下,希望對大家有所幫助2013-11-11IE和Firefox下javascript的兼容寫法小結(jié)
學(xué)習(xí)js的朋友必須要知道或了解的知識2008-12-12JS實(shí)現(xiàn)多級菜單中當(dāng)前菜單不隨頁面跳轉(zhuǎn)樣式而發(fā)生變化
本文介紹了JQuery巧妙實(shí)現(xiàn)多級菜單中當(dāng)前菜單不隨頁面跳轉(zhuǎn)樣式發(fā)生變化,實(shí)現(xiàn)方法非常簡單,感興趣的朋友一起看看吧2017-05-05