欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

Apache Spark 2.0 在作業(yè)完成時卻花費很長時間結(jié)束

 更新時間:2019年06月14日 14:58:52   作者:胖頭魚  
大家在使用 Apache Spark 2.x 的時候可能會遇到這種現(xiàn)象:雖然我們的 Spark Jobs 已經(jīng)全部完成了,但是我們的程序卻還在執(zhí)行。怎么回事呢?下面小編通過實例代碼給大家介紹下

現(xiàn)象

大家在使用 Apache Spark 2.x 的時候可能會遇到這種現(xiàn)象:雖然我們的 Spark Jobs 已經(jīng)全部完成了,但是我們的程序卻還在執(zhí)行。比如我們使用 Spark SQL 去執(zhí)行一些 SQL,這個 SQL 在最后生成了大量的文件。然后我們可以看到,這個 SQL 所有的 Spark Jobs 其實已經(jīng)運行完成了,但是這個查詢語句還在運行。通過日志,我們可以看到 driver 節(jié)點正在一個一個地將 tasks 生成的文件移動到最終表的目錄下面,當我們作業(yè)生成的文件很多的情況下,就很容易產(chǎn)生這種現(xiàn)象。本文將給大家介紹一種方法來解決這個問題。

為什么會造成這個現(xiàn)象

Spark 2.x 用到了 Hadoop 2.x,其將生成的文件保存到 HDFS 的時候,最后會調(diào)用了 saveAsHadoopFile,而這個函數(shù)在里面用到了 FileOutputCommitter,如下:

問題就出在了 Hadoop 2.x 的 FileOutputCommitter 實現(xiàn)FileOutputCommitter 里面有兩個值得注意的方法:commitTask 和 commitJob。在 Hadoop 2.x 的FileOutputCommitter 實現(xiàn)里面,mapreduce.fileoutputcommitter.algorithm.version 參數(shù)控制著 commitTask 和 commitJob 的工作方式。具體代碼如下(為了說明方便,我去掉了無關(guān)緊要的語句,完整代碼可以參見 FileOutputCommitter.java):

大家可以看到 commitTask 方法里面,有個條件判斷 algorithmVersion == 1,這個就是 mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的值,默認為1;如果這個參數(shù)為1,那么在 Task 完成的時候,是將 Task 臨時生成的數(shù)據(jù)移到 task 的對應目錄下,然后再在 commitJob 的時候移到最終作業(yè)輸出目錄,而這個參數(shù),在 Hadoop 2.x 的默認值就是 1!這也就是為什么我們看到 job 完成了,但是程序還在移動數(shù)據(jù),從而導致整個作業(yè)尚未完成,而且最后是由 Spark 的 Driver 執(zhí)行 commitJob 函數(shù)的,所以執(zhí)行的慢也是有到底的。

而我們可以看到,如果我們將 mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的值設置為 2,那么在 commitTask 執(zhí)行的時候,就會調(diào)用 mergePaths 方法直接將 Task 生成的數(shù)據(jù)從 Task 臨時目錄移動到程序最后生成目錄。而在執(zhí)行 commitJob 的時候,直接就不用移動數(shù)據(jù)了,自然會比默認的值要快很多。

注意,其實在 Hadoop 2.7.0 之前版本,我們可以將 mapreduce.fileoutputcommitter.algorithm.version 參數(shù)設置為非1的值就可以實現(xiàn)這個目的,因為程序里面并沒有限制這個值一定為2,。不過到了 Hadoop 2.7.0,mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的值必須為1或2,具體參見 MAPREDUCE-4815。

怎么在 Spark 里面設置這個參數(shù)

問題已經(jīng)找到了,我們可以在程序里面解決這個問題。有以下幾種方法:

  • 直接在 conf/spark-defaults.conf 里面設置 spark.hadoop.mapreduce.fileoutputcommitter.algorithm.version 2,這個是全局影響的。
  • 直接在 Spark 程序里面設置,spark.conf.set("mapreduce.fileoutputcommitter.algorithm.version", "2"),這個是作業(yè)級別的。
  • 如果你是使用 Dataset API 寫數(shù)據(jù)到 HDFS,那么你可以這么設置 dataset.write.option("mapreduce.fileoutputcommitter.algorithm.version", "2")。

不過如果你的 Hadoop 版本為 3.x,mapreduce.fileoutputcommitter.algorithm.version 參數(shù)的默認值已經(jīng)設置為2了,具體參見 MAPREDUCE-6336 和 MAPREDUCE-6406。

因為這個參數(shù)對性能有一些影響,所以到了 Spark 2.2.0,這個參數(shù)已經(jīng)記錄在 Spark 配置文檔里面了 configuration.html,具體參見 SPARK-20107。

總結(jié)

以上所述是小編給大家介紹的Apache Spark 2.0 在作業(yè)完成時卻花費很長時間結(jié)束,希望對大家有所幫助!

相關(guān)文章

  • Centos8搭建基于kdc加密的nfs

    Centos8搭建基于kdc加密的nfs

    大家好,本篇文章主要講的是Centos8搭建基于kdc加密的nfs,感興趣的同學趕快來看一看吧,對你有幫助的話記得收藏一下,方便下次瀏覽
    2021-12-12
  • 詳解Linux下配置DNS服務器

    詳解Linux下配置DNS服務器

    本篇文章主要介紹了Linux下配置DNS服務器,具有一定的參考價值,有需要的可以了解一下。
    2016-11-11
  • linux命令下jq的用法及說明

    linux命令下jq的用法及說明

    這篇文章主要介紹了linux命令下jq的用法及說明,具有很好的參考價值,希望對大家有所幫助,如有錯誤或未考慮完全的地方,望不吝賜教
    2023-12-12
  • 使用yum查看工具lspci所在包并安裝的方法(詳解)

    使用yum查看工具lspci所在包并安裝的方法(詳解)

    下面小編就為大家?guī)硪黄褂脃um查看工具lspci所在包并安裝的方法(詳解)。小編覺得挺不錯的,現(xiàn)在就分享給大家,也給大家做個參考。一起跟隨小編過來看看吧
    2016-11-11
  • 使用FileZilla從Linux系統(tǒng)下載文件的方法

    使用FileZilla從Linux系統(tǒng)下載文件的方法

    最近做項目,遇到這樣的需求,要求將Linux系統(tǒng)的的某個文件夾下載到我Windows系統(tǒng)某個文件夾里,怎么實現(xiàn)這個功能呢?下面腳本之家小編給大家?guī)砹耸褂肍ileZilla從Linux系統(tǒng)下載文件的方法,感興趣的朋友一起看看吧
    2018-07-07
  • Virtualbox安裝Lubuntu 18.04 64位的圖文教程

    Virtualbox安裝Lubuntu 18.04 64位的圖文教程

    這篇文章主要為大家詳細介紹了Virtualbox安裝Lubuntu 18.04 64位的圖文教程,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2018-07-07
  • 新版VPS主機管理面板WDCP安裝及使用體驗-國產(chǎn)簡單易用型VPS面板

    新版VPS主機管理面板WDCP安裝及使用體驗-國產(chǎn)簡單易用型VPS面板

    這篇文章主要介紹了新版VPS主機管理面板WDCP安裝及使用體驗-國產(chǎn)簡單易用型VPS面板,具有一定的參考價值,感興趣的小伙伴們可以參考一下
    2017-07-07
  • CentOS8.0 網(wǎng)絡配置的實現(xiàn)

    CentOS8.0 網(wǎng)絡配置的實現(xiàn)

    這篇文章主要介紹了CentOS8.0 網(wǎng)絡配置的實現(xiàn),文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2019-10-10
  • ssh修改超時自動登出時間的方法

    ssh修改超時自動登出時間的方法

    這篇文章主要介紹了關(guān)于linux中ssh超時自動登出時間的設置方法,以避免總是被強行退出。需要的朋友可以參考借鑒,下面來一起看看吧。
    2017-02-02
  • Linux中top命令輸出詳解

    Linux中top命令輸出詳解

    這篇文章主要給大家介紹了關(guān)于Linux中top命令輸出的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家學習或者使用Linux系統(tǒng)具有一定的參考學習價值,需要的朋友們下面來一起學習學習吧
    2019-07-07

最新評論