python decimal使用出現(xiàn)的問題

問題1：默認(rèn)小數(shù)位過多

默認(rèn)的小數(shù)位數(shù)為28位，需求為根據(jù)輸入的參數(shù)來確定位數(shù)，可使用str作為輸入來構(gòu)建對象，

示例如下：

decimal.Decimal(str(sheet_obj.cell_value(row, 16)))

問題2：四舍五入的使用

需求為對一個decimal類型的數(shù)進(jìn)行四舍五入的取整，

示例如下：

decimal.Decimal(raw_value).quantize(decimal.Decimal('1.'), rounding="ROUND_HALF_UP")

python中的decimal類型

引入

在做一道很基礎(chǔ)的python題的時候，老師提醒我可以用到decimal類型進(jìn)行優(yōu)化。

原題是這樣的：

分析一下程序的輸出結(jié)果，說明出現(xiàn)該結(jié)果的原因，應(yīng)該如何修改程序

x=2.1 
y=2.0
if x-y==0.1: 
    print("Equal")
else: 
    print("Not Equal")
    
print(x-y)

程序會輸出"Not Equal"

原因解釋 

• 首先，程序定義了兩個浮點數(shù)變量 x 和 y，分別賦值為 2.1 和 2.0。
• 然后，程序執(zhí)行條件判斷 x-y==0.1，這個條件判斷是否 x 和 y 的差是否等于 0.1。
• 由于浮點數(shù)的精度問題，2.1 - 2.0 并不等于精確的 0.1，而是一個非常接近 0.1 的浮點數(shù)。

所以，條件判斷 x-y==0.1 會返回 False，因此程序會執(zhí)行 print("Not Equal")。

接下來，程序執(zhí)行 print(x-y) 來輸出 x 和 y 的差，這會顯示一個非常接近 0.1 的浮點數(shù)，但它并不等于精確的 0.1，這是因為浮點數(shù)在計算機(jī)內(nèi)部以二進(jìn)制表示，有時無法準(zhǔn)確地表示十進(jìn)制小數(shù)。

這時，老師提醒我可以運用decimal類型進(jìn)行優(yōu)化，下面我為大家整理了decimal類型的大致內(nèi)容：

decimal 類型

在 Python 中，decimal 類型是用于高精度的十進(jìn)制浮點數(shù)運算的數(shù)據(jù)類型。它屬于 Python 標(biāo)準(zhǔn)庫中的 decimal 模塊，可以用于處理需要高精度計算的場景，尤其是在涉及到金融、科學(xué)計算、精確度要求較高的計算任務(wù)時非常有用。

decimal 類型的特點和用途包括：

• 高精度計算： decimal 類型可以表示高精度的十進(jìn)制數(shù)，避免了浮點數(shù)的精度問題。這對于需要準(zhǔn)確表示小數(shù)或進(jìn)行精確計算的任務(wù)非常重要。
• 避免浮點數(shù)問題： 浮點數(shù)（float 類型）在計算機(jī)內(nèi)部以二進(jìn)制表示，有時無法精確表示十進(jìn)制小數(shù)，可能會導(dǎo)致精度損失和舍入錯誤。decimal 類型解決了這個問題。
• 可控的精度： decimal 允許你控制小數(shù)點后的位數(shù)，以滿足特定的精度要求。這對于需要特定位數(shù)的小數(shù)結(jié)果的應(yīng)用非常有用。
• 支持各種數(shù)學(xué)運算： 與 decimal 類型一起使用的數(shù)學(xué)運算和函數(shù)可以提供高精度的結(jié)果，包括加法、減法、乘法、除法以及各種數(shù)學(xué)函數(shù)（如平方根、對數(shù)等）。
• 支持上下文控制： 你可以使用 decimal 模塊中的上下文對象來配置精度、舍入規(guī)則和其他行為，以滿足特定需求。
• 精確的貨幣計算： 由于 decimal 類型可以精確表示貨幣值，它在金融領(lǐng)域的應(yīng)用非常廣泛，因為涉及到貨幣的計算需要高精度和可預(yù)測的結(jié)果。

要使用 decimal 類型，你需要導(dǎo)入 decimal 模塊，并使用 Decimal 構(gòu)造函數(shù)來創(chuàng)建 decimal 對象。例如：

from decimal import Decimal
 
x = Decimal('0.1')
y = Decimal('0.2')
result = x + y

在這個示例中，x 和 y 是 decimal 類型的對象，它們可以進(jìn)行精確的加法運算，避免了浮點數(shù)的精度問題。

運用

運用decimal類型，修改最開始的代碼可以得到：

from decimal import Decimal
 
x = Decimal('2.1')
y = Decimal('2.0')
 
if x - y == Decimal('0.1'):#0.1要用字符串格式，不然輸入進(jìn)去的0.1仍然不是0.1
    print("Equal")
else:
    print("Not Equal")
 
print(x - y)

同時我將附上另外兩種解決方案，供讀者參考

#將相減之后的數(shù)進(jìn)行四舍五入，把后面由浮點數(shù)帶來的不精確的值給抹去
x=2.1 
y=2.0
z=round(x-y,1)
if z==0.1: 
    print("Equal")
else: 
    print("Not Equal")

#創(chuàng)立最小誤差進(jìn)行比較
x = 2.1
y = 2.0
epsilon = 1e-10
if abs(x - y - 0.1) < epsilon:
    print("Equal")
else:
    print("Not Equal")

總結(jié) 

以上為個人經(jīng)驗，希望能給大家一個參考，也希望大家多多支持腳本之家。

最新評論