欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Golang 處理浮點數(shù)遇到的精度問題(使用decimal)

 更新時間:2022年02月22日 09:30:21   作者:頭禿貓輕王  
本文主要介紹了Golang 處理浮點數(shù)遇到的精度問題,不使用decimal會出大問題,文中通過示例代碼介紹的非常詳細,具有一定的參考價值,感興趣的小伙伴們可以參考一下

一、浮點數(shù)是什么?

浮點數(shù),是屬于有理數(shù)中某特定子集的數(shù)的數(shù)字表示,在計算機中用以近似表示任意某個實數(shù)。浮點數(shù)在計算機中主要用來表示小數(shù),浮點數(shù)就是小數(shù)點可以出現(xiàn)改變的數(shù)字。

因為在計算機的機器語言中,只有二進制,機器語言只能識別0和1。所以,計算機也是不可能存儲小數(shù)的,所以需要有另一種變通的存儲方案。
這種方案就是:

1.指數(shù)方案

指數(shù)形式:其數(shù)值部分是一個小數(shù),小數(shù)點前的數(shù)字是零,小數(shù)點后的第一位數(shù)字不是零。一個實數(shù)可以有多種指數(shù)表示形式,但只有一種屬于標準化指數(shù)形式。

  
12.31.23*10^-1
1.231.23*10^0
1.230.123*10^1

上面的表格,我們可以很清晰的了解指數(shù)方案。同樣的我們也就能發(fā)現(xiàn)這樣表達小數(shù)會有一個嚴重的問題,那就是指數(shù)表示形式太多了,如果不能約定好唯一形式,不同代碼之間溝通將會出現(xiàn)問題。

2.規(guī)范化指數(shù)形式

在指數(shù)形式的多種表示方式中把小數(shù)部分中小數(shù)點前的數(shù)字為0、小數(shù)點后第1位數(shù)字不為0的表示形式稱為規(guī)范化的指數(shù)形式。

1.23 的規(guī)范化的指數(shù)形式 0.123*10^1

一個實數(shù)只有一個規(guī)范化的指數(shù)形式,在程序以指數(shù)形式輸出一個實數(shù)時,必然以規(guī)范化的指數(shù)形式輸出。

0.123e001

1.為什么要以 0 開頭

1.23456要二進制存放需分別存整數(shù)部和小數(shù)部,而0.123456則只需存小數(shù)部,這樣在占用相同字節(jié)的情況下,后一種方法可容納更大精度的浮點數(shù)。

2.為什么 e 后面要加 0 ,e001 和 e1 一樣嗎

后面加 0 是 %e 的輸出格式,并不是規(guī)范化的指數(shù)形式所必需的,
e001 和 e1 是一樣的

3.IEEE 754標準

由于不同機器對浮點數(shù)的表示有較大差別,這不利于軟件在不同計算機之間的移植。為此,美國IEEE提出了一個從系統(tǒng)角度支持浮點數(shù)的表示方法,稱為IEEE754標準(IEEE,1985),當今流行的計算機幾乎都采用了這一標準。

IEEE 754規(guī)定了四種表示浮點數(shù)值的方式:單精確度(32位)、雙精確度(64位)、延伸單精確度(43比特以上,很少使用)與延伸雙精確度(79比特以上,通常以80位實現(xiàn))。只有32位模式有強制要求,其他都是選擇性的。

二、出現(xiàn)精度問題的情況

1.浮點數(shù)加減運算

輸入數(shù)據(jù):

a = 2.3329 b = 3.1234

代碼如下(示例):

package main

import "fmt"

func main() {

	// a = 2.3329 b = 3.1234
	a, b := 2.3329, 3.1234

	c := a + b

	fmt.Println(c) //5.456300000000001}

}

結果精度出現(xiàn)問題
2.3329 + 3.1234 = 5.456300000000001
已經(jīng)出錯

2.float64與float32之間轉換

輸入數(shù)據(jù):

a = 9.99999

代碼如下(示例):

package main

import "fmt"

func main() {

	var a float32
	a = 9.99999

	b := float64(a)
	fmt.Println(b) //9.999990463256836}

}

結果精度出現(xiàn)問題
9.99999 = 9.999990463256836
已經(jīng)出錯

3.int64和float64,int32和float32轉換

1.int32和float32轉換

輸入數(shù)據(jù):

a = 9.99999

代碼如下(示例):

package main

import "fmt"

func main() {

	var a int32
	a = 999990455

	b := float32(a)
	fmt.Printf("%f\n", b) //999990464.000000}

}

結果精度出現(xiàn)問題
999990455= 999990464.000000
已經(jīng)出錯

2.int64和float64轉換

輸入數(shù)據(jù):

a = 999999942424527242

代碼如下(示例):

package main

import "fmt"

func main() {

	var a int64
	a = 999999942424527242

	b := float64(a)
	fmt.Printf("%f\n", b) //999999942424527232.000000}

}

結果精度出現(xiàn)問題
999999942424527242 = 999999942424527232.000000
已經(jīng)出錯

4.float64位直接乘100

輸入數(shù)據(jù):

a = 999999942424527242

代碼如下(示例):

package main

import "fmt"

func main() {

	var a float64
	a = 1128.61

	b := a * 100
	fmt.Println(b) //112860.99999999999}

}

結果精度出現(xiàn)問題
1128.61 * 100= 112860.99999999999
已經(jīng)出錯

三、decimal 解決精度問題

利用 Decimal 包解決精度問題

 go get github.com/shopspring/decimal

1.浮點數(shù)加減運算

輸入數(shù)據(jù):

a = 2.3329 b = 3.1234

代碼如下(示例):

package main

import (
	"fmt"
	"github.com/shopspring/decimal"
)

func main() {

	// a = 2.3329 b = 3.1234
	a, b := 2.3329, 3.1234

	c := decimal.NewFromFloat(a)
	d := decimal.NewFromFloat(b)
	fmt.Println(a, b)
	fmt.Println(c, d)
	fmt.Println("此時ab 與 cd 相同")
	
	fmt.Println(a + b)    //5.456300000000001}
	fmt.Println(c.Add(d)) //5.4563}

}

結果精度不再出現(xiàn)問題

在這里插入圖片描述

2.float64與float32之間轉換

輸入數(shù)據(jù):

a = 9.99999

代碼如下(示例):

package main

import (
	"fmt"
	"github.com/shopspring/decimal"
)

func main() {

	var a float32
	a = 9.99999
	c := decimal.NewFromFloat32(a)
	
	b := float64(a)
	c.Float64()
	fmt.Println(b) //9.999990463256836}
	fmt.Println(c.Float64()) //9.99999}

}

結果精度不再出現(xiàn)問題

在這里插入圖片描述

3.float64位直接乘100

輸入數(shù)據(jù):

a = 999999942424527242

代碼如下(示例):

package main

import (
	"fmt"
	"github.com/shopspring/decimal"
)

func main() {

	var a float64
	a = 1128.61
	c := decimal.NewFromFloat(a)

	b := a * 100
	fmt.Println(b) //112860.99999999999}
	fmt.Println(c.Mul(decimal.NewFromInt(100))) //112861}

}

結果精度不再出現(xiàn)問題

在這里插入圖片描述

總結

通過以上兩個例子,我們已經(jīng)了解了浮點數(shù)的精度問題,那么在工作中,我們就需要更換運算方式。我們需要盡量選擇Decimal,否則如果使用 Float 出現(xiàn)精度問題之后,到那時再更換方法,既費時又費力,能剛開始就解決,何樂而不為呢。

到此這篇關于Golang 處理浮點數(shù)遇到的精度問題(使用decimal)的文章就介紹到這了,更多相關Golang 浮點精度內容請搜索腳本之家以前的文章或繼續(xù)瀏覽下面的相關文章希望大家以后多多支持腳本之家!

相關文章

  • Go語言常用條件判斷空值邏輯的使用

    Go語言常用條件判斷空值邏輯的使用

    本文主要介紹了Go語言常用條件判斷空值邏輯的使用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2023-03-03
  • Golang學習之無類型常量詳解

    Golang學習之無類型常量詳解

    對于無類型常量,可能大家是第一次聽說,但我們每天都在用,每天都有無數(shù)潛在的坑被埋下。本文就來和大家聊聊它的相關注意事項吧,希望對大家有所幫助
    2023-03-03
  • Golang初始化MySQL數(shù)據(jù)庫方法淺析

    Golang初始化MySQL數(shù)據(jù)庫方法淺析

    這篇文章主要介紹了Golang初始化MySQL數(shù)據(jù)庫的方法,數(shù)據(jù)庫的建立第一步即要初始化,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習吧
    2023-05-05
  • GoLand編譯帶有構建標簽的程序思路詳解

    GoLand編譯帶有構建標簽的程序思路詳解

    這篇文章主要介紹了GoLand編譯帶有構建標簽的程序,本文通過實例代碼給大家介紹的非常詳細,對大家的學習或工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2020-11-11
  • go?goquery網(wǎng)頁解析實現(xiàn)示例

    go?goquery網(wǎng)頁解析實現(xiàn)示例

    這篇文章主要為大家介紹了go?goquery網(wǎng)頁解析實現(xiàn)示例,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2023-08-08
  • go實現(xiàn)base64編碼的四種方式

    go實現(xiàn)base64編碼的四種方式

    本文主要介紹了go實現(xiàn)base64編碼的四種方式,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2023-03-03
  • golang mysql的連接池的具體使用

    golang mysql的連接池的具體使用

    本文主要介紹了golang mysql的連接池的具體使用,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2023-02-02
  • GoLang中sql.Exec()報錯解決辦法

    GoLang中sql.Exec()報錯解決辦法

    這篇文章主要給大家介紹了關于GoLang中sql.Exec()報錯的解決辦法,文中通過代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考借鑒價值,需要的朋友可以參考下
    2024-01-01
  • Golang實現(xiàn)Redis過期時間實例探究

    Golang實現(xiàn)Redis過期時間實例探究

    這篇文章主要介紹了Golang實現(xiàn)Redis過期時間實例探究,
    2024-01-01
  • 提升Go語言開發(fā)效率的小技巧實例(GO語言語法糖)匯總

    提升Go語言開發(fā)效率的小技巧實例(GO語言語法糖)匯總

    這篇文章主要介紹了提升Go語言開發(fā)效率的小技巧匯總,也就是Go語言的語法糖,掌握好這些可以提高我們的開發(fā)效率,需要的朋友可以參考下
    2022-11-11

最新評論