Java開發(fā)常見錯誤之數值計算精度和舍入問題詳析

更新時間：2022年11月21日 12:24:27 作者：程序員Alan

除了使用Double保存浮點數可能帶來精度問題外,更匪夷所思的是這種精度問題,下面這篇文章主要給大家介紹了關于Java開發(fā)常見錯誤之數值計算精度和舍入問題的相關資料,文中通過實例代碼介紹的非常詳細,需要的朋友可以參考下

前言

今天單獨分享數值計算的問題，是因為最近處理一次線上服務告警時，發(fā)現還有很多同學不了解浮點數計算的坑。

數值精度問題引發(fā)的Bug一般難以發(fā)現，所以我們在公司處理這方面的業(yè)務時一定要特別注意。

下面我們來具體看看這些問題。

數值精度問題

下面輸出的結果是 ture 還是 false ?

 public static void main(String[] args) {
      Double num1 = 0.15;
      Double num2 = 0.05;
      System.out.println(num1 % num2 == 0);
  }

正確答案是 false 。這是因為計算機無法精確的保存浮點數，所以浮點數計算的結果也不可能精準。

再來看一段代碼猜猜輸出結果。

public static void main(String[] args) {
    System.out.println(0.1+0.2);
    System.out.println(1.0-0.8);
    System.out.println(4.015*100);
    System.out.println(123.3/100);
}

輸出結果如下：

0.30000000000000004
0.19999999999999996
401.49999999999994
1.2329999999999999

輸出結果和我們預期的很不一樣，出現這種問題的原因是因為計算機是以二進制存儲數值的，浮點數也不例外。Java采用了IEEE754標準實現浮點數的表達和運算。

比如，0.1 的二進制表示為 0.0 0011 0011 0011… （0011 無限循環(huán))，再轉換為十進制就是 0.1000000000000000055511151231257827021181583404541015625。對于計算機而言，0.1 無法精確表達，這是浮點數計算造成精度損失的根源。

你可能會覺得，這種相差非常小不會對產生多大影響，但如果把損失的精度換算成金錢，每天有上百萬交易，每次交易都差一分錢，一個月下來就是30萬。

數值舍入問題

下面這段代碼的輸出結果是什么？

public static void main(String[] args) {
    double num = 3.35;
    System.out.println(String.format("%.1f", num));
}

輸出結果

3.4

這就是由精度問題和舍入方式共同導致的，double 3.35 其實相當于 3.350xxx

String.format 采用四舍五入的方式進行舍入，取 1 位小數，double 的 3.350 四舍五入為 3.4

解決方案

涉及到浮點數精確表達和運算的場景，使用BigDecimal類型。

但是注意在使用BigDecimal的時候也有幾個坑要避開。

第一個坑：

使用 BigDecimal 表示和計算浮點數，務必使用字符串的構造方法來初始化 BigDecimal。

  public static void main(String[] args) {
        System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
        System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
    }

輸出結果

0.3
0.3000000000000000166533453693773481063544750213623046875

第二個坑：

浮點數的字符串格式化也要通過 BigDecimal 進行。

   public static void main(String[] args) {
        double num = 3.35;
        System.out.println(String.format("%.1f", num));

        BigDecimal num1 = new BigDecimal("3.35");
        BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
        System.out.println(num2);
    }

輸出結果

3.4
3.3

總結

第一，要精確表示浮點數應該使用 BigDecimal。并且使用 String 入參的構造方法或者 BigDecimal.valueOf 方法來初始化。

第二，對浮點數做精確計算，參與計算的各種數值應該始終使用 BigDecimal，所有的計算都要通過 BigDecimal 的方法進行，任何一個環(huán)節(jié)出現精度損失，最后的計算結果可能都會出現誤差。

第三，對于浮點數的格式化，建議使用 BigDecimal 來表示浮點數，并使用其 setScale 方法指定舍入的位數和方式。

補充：為什么會有精度問題？

計算機處理數據都涉及到數據的轉換和各種復雜運算，比如，不同單位換算，不同進制(如二進制十進制)換算等，很多除法運算不能除盡，比如10÷3=3.3333.。。。。。。無窮無盡，而精度是有限的，3.3333333x3并不等于10，經過復雜的處理后得到的十進制數據并不精確，精度越高越精確。float有8位有效數字，double有16位有效數據，float和double都是到大到一定的值自動開始使用科學計數法，并保留相關精度的有效數字，所以結果是個近似數。如果更精確的運算小數(比如金融，數學)，希望結果更符合預期值應該使用Bigcimal。計算器應該也會有精度問題，也會有二進制十進制轉換。

java的雙精度和單精度的區(qū)別

現實問題中不但有整型數值，還有小數。Java語言也提供了針對小數的存儲類型，分別是float類型和double類型。

Java語言的浮點類型有兩種不同的表示形式：十進制數和科學計數法。十進制數形式，由數字和小數點組成，且必須有小數點，如0.123、12.85、26.98等；科學計數法形式，如：2.1E5、3.7e-2等。其中e或E之前必須有數字，且e或E后面的指數必須為整數。