C#中float的取值范圍和精度分析
本文實例分析了C#中float的取值范圍和精度。分享給大家供大家參考。具體分析如下:
float類型的表現(xiàn)形式:
默認情況下,賦值運算符右側(cè)的實數(shù)被視為 double。 因此,應(yīng)使用后綴 f 或 F 初始化浮點型變量,如以下示例中所示:
float x = 3.5F;
如果在以上聲明中不使用后綴,則會因為您嘗試將一個 double值存儲到 float 變量中而發(fā)生編譯錯誤。
float的取值范圍
float占用4個字節(jié),和int是一樣,也就是32bit.
1bit(符號位) 8bits(指數(shù)位) 23bits(尾數(shù)位)
存儲方式如下圖:
取值范圍基本表達法
(浮點)數(shù)值 = 尾數(shù) × 底數(shù) ^ 指數(shù),(附加正負號)----------------
于是,float的指數(shù)范圍為-127~128,而double的指數(shù)范圍為-1023~1024,并且指數(shù)位是按補碼的形式來劃分的。其中負指數(shù)決定了浮點數(shù)所能表達的絕對值最小的數(shù);而正指數(shù)決定了浮點數(shù)所能表達的絕對值最大的數(shù),也即決定了浮點數(shù)的取值范圍。
float的范圍為-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;double的范圍為-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。
其他特殊表示
1.當(dāng)指數(shù)部分和小數(shù)部分全為0時,表示0值,有+0和-0之分(符號位決定),0x00000000表示正0,0x80000000表示負0. 2.指數(shù)部分全1,小數(shù)部分全0時,表示無窮大,有正無窮和負無窮,0x7f800000表示正無窮,0xff800000表示負無窮. 3.指數(shù)部分全1,小數(shù)部分不全0時,表示NaN,分為QNaN和SNaN,Java中都是NaN.
結(jié)論: 可以看出浮點數(shù)的取值范圍是:2^(-149)~~(2-2^(-23))*2^127,也就是Float.MIN_VALUE和Float.MAX_VALUE.
精度
float和double的精度是由尾數(shù)的位數(shù)來決定的。浮點數(shù)在內(nèi)存中是按科學(xué)計數(shù)法來存儲的,其整數(shù)部分始終是一個隱含著的“1”,由于它是不變的,故不能對精度造成影響。
float:2^23 = 8388608,一共七位,這意味著最多能有7位有效數(shù)字,但絕對能保證的為6位,也即float的精度為6~7位有效數(shù)字;
希望本文所述對大家的C#程序設(shè)計有所幫助。
相關(guān)文章
帶著問題讀CLR via C#(筆記一)CLR的執(zhí)行模型
CLR (Common Language Runtime) 是一個可以由多種編程語言使用的“運行時”。2013-04-04C#使用XmlDocument或XDocument創(chuàng)建xml文件
這篇文章主要為大家詳細介紹了C#使用XmlDocument或XDocument創(chuàng)建xml文件,具有一定的參考價值,感興趣的小伙伴們可以參考一下2018-10-10C#使用WMI實現(xiàn)監(jiān)聽進程的啟動和關(guān)閉
Windows Management Instrumentation(WMI)是用于管理基于 Windows 操作系統(tǒng)的數(shù)據(jù)和操作的基礎(chǔ)結(jié)構(gòu),本文將使用WMI實現(xiàn)監(jiān)聽進程的啟動和關(guān)閉,感興趣的可以了解下2024-01-01Unity3D實現(xiàn)待機狀態(tài)圖片循環(huán)淡入淡出
這篇文章主要為大家詳細介紹了Unity3D實現(xiàn)待機狀態(tài)圖片循環(huán)淡入淡出,文中示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下2020-04-04