Python decimal模塊使用方法詳解
decimal 模塊:decimal意思為十進(jìn)制,這個(gè)模塊提供了十進(jìn)制浮點(diǎn)運(yùn)算支持
1.可以傳遞給Decimal整型或者字符串參數(shù),但不能是浮點(diǎn)數(shù)據(jù),因?yàn)楦↑c(diǎn)數(shù)據(jù)本身就不準(zhǔn)確。
2.要從浮點(diǎn)數(shù)據(jù)轉(zhuǎn)換為Decimal類(lèi)型
from decimal import *
Decimal.from_float(12.222)
# 結(jié)果為Decimal('12.2219999999999995310417943983338773250579833984375')
3.通過(guò)設(shè)定有效數(shù)字,限定結(jié)果樣式
from decimal import *
getcontext().prec = 6
Decimal(1)/Decimal(7)
# 結(jié)果為Decimal('0.142857'),六個(gè)有效數(shù)字
4.四舍五入,保留幾位小數(shù)
from decimal import *
Decimal('50.5679').quantize(Decimal('0.00'))
# 結(jié)果為Decimal('50.57'),結(jié)果四舍五入保留了兩位小數(shù)
5.Decimal 結(jié)果轉(zhuǎn)化為string
from decimal import *
str(Decimal('3.40').quantize(Decimal('0.0')))
# 結(jié)果為'3.4',字符串類(lèi)型
Python3中decimal處理計(jì)算精度問(wèn)題示例
#!/usr/bin/python3 # coding:utf-8 import decimal from decimal import Decimal, getcontext def demo(): """ 取整問(wèn)題: ROUND_CEILING 總是趨向無(wú)窮大向上取整 ROUND_DOWN 總是趨向0取整 ROUND_FLOOR 總是趨向負(fù)無(wú)窮大向下取整 ROUND_HALF_DOWN 如果最后一個(gè)有效數(shù)字大于或等于5則朝0反方向取整;否則,趨向0取整 ROUND_HALF_EVEN 類(lèi)似于ROUND_HALF_DOWN,不過(guò),如果最后一個(gè)有效數(shù)字值為5,則會(huì)檢查前一位。 偶數(shù)值會(huì)導(dǎo)致結(jié)果向下取整,奇數(shù)值導(dǎo)致結(jié)果向上取整 ROUND_HALF_UP 類(lèi)似于ROUND_HALF_DOWN,不過(guò)如果最后一位有效數(shù)字為5,值會(huì)朝0的反方向取整 ROUND_UP 朝0的反方向取整 ROUND_05UP 如果最后一位是0或5,則朝0的反方向取整;否則向0取整 """ # 1.常規(guī)計(jì)算 getcontext().prec = 9 r1 = Decimal(1) / Decimal(3) print("r1 ", r1) # r1 0.333333333 # 2.但是getcontext().prec會(huì)包含小數(shù)點(diǎn)前面的所有長(zhǎng)度,當(dāng)前面長(zhǎng)度有變化時(shí)并不能固定控制小數(shù)點(diǎn)后的位數(shù) r2 = Decimal(10) / Decimal(3) print("r2 ", r2) # r2 3.33333333 # 3.想要固定控制小數(shù)點(diǎn)后面的位數(shù)則需要使用decimal.quantize(Decimal('0.00000000')),注意不能超過(guò)getcontext().prec的位數(shù) r3 = Decimal(1) / Decimal(3) print("r3 ", r3.quantize(Decimal('0.00000000'))) # r3 0.33333333 r4 = Decimal(10) / Decimal(3) print("r4 ", r4.quantize(Decimal('0.00000000'))) # r4 3.33333333 r5 = Decimal(10) / Decimal(str(1.5)) print("r5 ", r5.quantize(Decimal('0.00000000'))) # r5 6.66666667 # 4.向上取整 getcontext().rounding = getattr(decimal, 'ROUND_CEILING') # 總是趨向無(wú)窮大向上取整 r6 = Decimal(10) / Decimal(str(1.5)) # r6 6.66666667 print("r6 ", r6.quantize(Decimal('0.00000000'))) r7 = Decimal(10) / Decimal(3) # r7 3.33333334 print("r7 ", r7.quantize(Decimal('0.00000000'))) # 5.向下取整 getcontext().rounding = getattr(decimal, 'ROUND_FLOOR') # 總是趨向無(wú)窮大向下取整 r8 = Decimal(10) / Decimal(str(1.5)) # r8 6.66666666 print("r8 ", r8.quantize(Decimal('0.00000000'))) r9 = Decimal(10) / Decimal(3) # r9 3.33333333 print("r9 ", r9.quantize(Decimal('0.00000000'))) if __name__ == '__main__': demo()
以上就是本文的全部?jī)?nèi)容,希望對(duì)大家的學(xué)習(xí)有所幫助,也希望大家多多支持腳本之家。
相關(guān)文章
Django+vue+vscode前后端分離搭建的實(shí)現(xiàn)
本文以一個(gè)非常簡(jiǎn)單的demo為例,介紹了利用django+drf+vue的前后端分離開(kāi)發(fā)模式,文中通過(guò)示例代碼介紹的非常詳細(xì),具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2023-08-08Python pyecharts Line折線(xiàn)圖的具體實(shí)現(xiàn)
折線(xiàn)圖在很多圖標(biāo)中都有使用,本文主要介紹了Python pyecharts Line折線(xiàn)圖的具體實(shí)現(xiàn),文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2022-05-05Python中低維數(shù)組填充高維數(shù)組的實(shí)現(xiàn)
今天小編就為大家分享一篇Python中低維數(shù)組填充高維數(shù)組的實(shí)現(xiàn),具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2019-12-12python爬取新聞門(mén)戶(hù)網(wǎng)站的示例
短期目前旨在爬取所有新聞門(mén)戶(hù)網(wǎng)站的新聞,每個(gè)門(mén)戶(hù)網(wǎng)站爬蟲(chóng)開(kāi)箱即用,并自動(dòng)保存到同目錄下的 csv/excel 文件中,禁止將所得數(shù)據(jù)商用。2021-04-04tensorflow使用L2 regularization正則化修正overfitting過(guò)擬合方式
這篇文章主要介紹了tensorflow使用L2 regularization正則化修正overfitting過(guò)擬合方式,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2020-05-05Django學(xué)習(xí)筆記之為Model添加Action
這篇文章主要介紹了Django給admin添加Action,小編覺(jué)得挺不錯(cuò)的,現(xiàn)在分享給大家,也給大家做個(gè)參考。一起跟隨小編過(guò)來(lái)看看吧2019-04-04Python使用wxPython實(shí)現(xiàn)計(jì)算器
這篇文章主要為大家詳細(xì)介紹了Python使用wxPython實(shí)現(xiàn)計(jì)算器,具有一定的參考價(jià)值,感興趣的小伙伴們可以參考一下2018-01-01matplotlib實(shí)現(xiàn)矩陣和圖像的可視化表示
這篇文章主要為大家詳細(xì)介紹了如何利用matplotlib實(shí)現(xiàn)矩陣和圖像的可視化表示,文中的示例代碼講解詳細(xì),具有一定的學(xué)習(xí)價(jià)值,感興趣的小伙伴可以了解下2024-03-03