程序中兩個Double類型相加出現誤差的解決辦法
今天在自己做的系統中,發(fā)現了一個奇怪的現象:幾個Double類型的數據相加,到最后得出的金額比正確數值總是少了幾毛錢。以為是程序里的計算方法有問題,可是排查了很多地方,始終沒有找到問題出在哪里。最后干脆把計算方法一句一句拆分,得到了最后最簡單的一步,就是把兩個具體的數值相加,但是最后的結果居然還是錯誤的。比如,現在已經到了最簡單的一步:
double n = 171.6;
double m = 28.17;
double k = n + m;
按理說k的值應該是199.77,但其實得到的居然是199.76999999999998。
我們的系統里有保留小數位數為4位,按理是可以四舍五入成199.77的。但是因為有做金額的合計,是幾十甚至幾百個數據的相加,由于每兩個數相加的時候都可能產生上述誤差,因此最后得到的結果已經有了近0.7的誤差,就算再四舍五入也于事無補了。
上網查了一下相關資料,覺得CSDN論壇里的這個帖子的解釋還是比較詳細的:http://bbs.csdn.net/topics/300023952,大意是說由于運算的時候進行了進制的轉換造成的(見8樓回復),所有的精度類型在幾乎所有語言下都有這個問題。比較有效的解決辦法是使用BigDecimal(見14樓回復),但是我個人認為那個BigDecimal的解決辦法太麻煩了,至少對于我的系統來說是這樣。還不如每加一次之后都進行一次字符串轉換,保留有效的小數位數,比如,上述語句可以改寫成:
double n = 171.6;
double m = 28.17;
//double k = n + m;
String kn = (n + m).ToString("N4"); //保留4位小數
double k = Convert.ToDouble(kn);
也就是說,在String kn這一步,就已經把誤差調整好了,得到的k值就是正確的了。這樣每次相加都處理一下誤差,無論要算多少個數據的合計也不用擔心會出現誤差過大的情況了。
當然最好是把這種處理方法做成一個公用方法,專門用來處理兩個數的相加。
相關文章
BootStrap mvcpager分頁樣式(get請求,刷新頁面)
這篇文章主要介紹了BootStrap mvcpager分頁樣式(get請求,刷新頁面)的相關資料,通過引入相關文件,實現此功能,非常不錯,具有參考借鑒價值,需要的朋友可以參考下2016-08-08結合Visual C#開發(fā)環(huán)境講解C#中事件的訂閱和取消訂閱
這篇文章主要介紹了C#中事件的訂閱和取消訂閱,結合Visual C#開發(fā)環(huán)境來進行講解,Visual C#被集成在微軟的IDE程序Visual Studio中,需要的朋友可以參考下2016-01-01C#的Process類調用第三方插件實現PDF文件轉SWF文件
本篇文章主要介紹了C#的Process類調用第三方插件實現PDF文件轉SWF文件,現在分享給大家,具有一定的參考價值,有需要的可以了解一下。2016-11-11