R語(yǔ)言通過(guò)parallel包實(shí)現(xiàn)多線程運(yùn)行方式
總的來(lái)說(shuō),R的運(yùn)算速度不算快,不過(guò)類似并行運(yùn)算之類的改進(jìn)可以提高運(yùn)算的性能。下面非常簡(jiǎn)要地介紹如何利用R語(yǔ)言進(jìn)行并行運(yùn)算
library(parallel) cl.cores <- detectCores() cl <- makeCluster(cl.cores)
detectCores( )檢查當(dāng)前電腦可用核數(shù)。
makeCluster(cl.cores)使用剛才檢測(cè)的核并行運(yùn)算。R-Doc里這樣描述makeCluster函數(shù):Creates a set of copies of R running in parallel and communicating over sockets. 即同時(shí)創(chuàng)建數(shù)個(gè)R進(jìn)行并行運(yùn)算。
在該函數(shù)執(zhí)行后就已經(jīng)開(kāi)始并行運(yùn)算了,電腦可能會(huì)變卡一點(diǎn)。尤其在執(zhí)行par開(kāi)頭的函數(shù)時(shí)。
在并行運(yùn)算環(huán)境下,常用的一些計(jì)算方法如下:
1. clusterEvalQ(cl,expr)函數(shù)利用創(chuàng)建的cl執(zhí)行expr
這里利用剛才創(chuàng)建的cl核并行運(yùn)算expr。expr是執(zhí)行命令的語(yǔ)句,不過(guò)如果命令太長(zhǎng)的話,一般寫到文件里比較好。比如把想執(zhí)行的命令放在Rcode.r里:
clusterEvalQ(cl,source(file="Rcode.r"))
2.par開(kāi)頭的apply函數(shù)族
這族函數(shù)和apply的用法基本一樣,不過(guò)要多加一個(gè)參數(shù)cl。一般如果cl創(chuàng)建如上面cl <- makeCluster(cl.cores)的話,這個(gè)參數(shù)可以直接用作parApply(cl=cl,…)。
當(dāng)然Apply也可以是Sapply,Lapply等等。注意par后面的第一個(gè)字母是要大寫的,而一般的apply函數(shù)族第一個(gè)字母不大寫。另外要注意,即使構(gòu)建了并行運(yùn)算的核,不使用parApply()函數(shù),而使用apply()函數(shù)的話,則仍然沒(méi)有實(shí)現(xiàn)并行運(yùn)算。
換句話說(shuō),makeCluster只是創(chuàng)建了待用的核,而不是并行運(yùn)算的環(huán)境。
最后,終止并行運(yùn)算只需要一行命令
stopCluster(cl)
案例1
不使用并行計(jì)算,直接使用lapply(隱式循環(huán)函數(shù),它實(shí)際就是對(duì)不同的數(shù)據(jù)應(yīng)用了相同的函數(shù)):
fun <- function(x){ return (x+1); } system.time({ res <- lapply(1:5000000, fun); }); user system elapsed 21.42 1.74 25.70
案例2
使用parallel包來(lái)加速
library(parallel) #打開(kāi)四核,具體核數(shù)根據(jù)機(jī)器的核數(shù)決定 cl <- makeCluster(getOption("cl.cores", 4)); system.time({ res <- parLapply(cl, 1:5000000, fun) }); user system elapsed 6.54 0.34 19.95 #關(guān)閉并行計(jì)算 stopCluster(cl);
看看單核機(jī)器跑出來(lái)的結(jié)果:
user system elapsed 29.30 9.23 97.22
所以,并非核數(shù)越多越好,看機(jī)器配置。
這個(gè)函數(shù)有兩點(diǎn)要注意:
首先要先用detectCores函數(shù)確定系統(tǒng)核心數(shù)目,對(duì)于Window系統(tǒng)下的Intel I5或I7 處理器,一般使用detectCores(logical = F)來(lái)獲得實(shí)際的物理核心數(shù)量。
由于這個(gè)函數(shù)使用的是調(diào)用Rscript的方式,這個(gè)例子里,對(duì)象被復(fù)制了三份,因此內(nèi)存會(huì)吃的很厲害,在大數(shù)據(jù)條件就要小心使用。
案例3
在Linux下使用mclapply函數(shù)的效果如下:
mc <- getOption("mc.cores", 3) system.time({ res <- mclapply(1:5000000, fun, mc.cores = mc); }); user system elapsed 6.657 0.500 7.181 stopCluster(cl);
補(bǔ)充:R語(yǔ)言如何并行處理[parallel package][向量化操作并行優(yōu)化]
使用數(shù)據(jù),長(zhǎng)下面這樣:
方法:
使用parallel包,并行向量化處理,進(jìn)一步提升原先向量化處理速度。
原始代碼:
start <- Sys.time() experiment_step1 <- apply(dtc_small_modify, 1, decompose) end <- Sys.time() print(end-start)
原始運(yùn)行時(shí)間:3.083114 分
使用parallel包后
library(parallel) #并行處理包 cl.cores <- detectCores(logical = F) #計(jì)算電腦核心數(shù) cl <- makeCluster(cl.cores) # 初始化要使用的核心數(shù) start <- Sys.time() results <- parApply(cl=cl, dtc_small_modify, 1, decompose) # apply的并行版本 stopCluster(cl) # 關(guān)閉并行模式 end <- Sys.time() print(end-start)
并行后
運(yùn)行時(shí)間:55.5877 秒,相較原先,速度提升了將近四倍!
Tips:上述是對(duì)向量化(Vectorization)apply類的并行處理。對(duì)于apply的并行處理,必須使用par開(kāi)頭的對(duì)應(yīng)apply.
列表如下:
parLapply(cl = NULL, X, fun, …, chunk.size = NULL)
parSapply(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL)
parApply(cl = NULL, X, MARGIN, FUN, …, chunk.size = NULL)
parRapply(cl = NULL, x, FUN, …, chunk.size = NULL)
parCapply(cl = NULL, x, FUN, …, chunk.size = NULL)
parLapplyLB(cl = NULL, X, fun, …, chunk.size = NULL)
parSapplyLB(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL)
使用apply類向量化操作后,常常產(chǎn)生大規(guī)模列表,可能需要將列表轉(zhuǎn)成一個(gè)完整的大數(shù)據(jù)框。
以上為個(gè)人經(jīng)驗(yàn),希望能給大家一個(gè)參考,也希望大家多多支持腳本之家。如有錯(cuò)誤或未考慮完全的地方,望不吝賜教。
相關(guān)文章
使用R語(yǔ)言實(shí)現(xiàn)自動(dòng)文摘的方法
本文介紹了如何使用R語(yǔ)言實(shí)現(xiàn)自動(dòng)文摘,我們首先介紹了基于詞頻-逆文檔頻率(TF-IDF)的自動(dòng)文摘方法,包括創(chuàng)建詞項(xiàng)文檔矩陣,計(jì)算TF-IDF值,提取關(guān)鍵詞,以及根據(jù)關(guān)鍵詞生成摘要,需要的朋友一起學(xué)習(xí)下吧2023-05-05R語(yǔ)言中常見(jiàn)的幾種創(chuàng)建矩陣形式總結(jié)
這篇文章主要給大家介紹了關(guān)于R語(yǔ)言中常見(jiàn)的幾種創(chuàng)建矩陣形式的相關(guān)資料,文中通過(guò)示例代碼介紹的非常詳細(xì),對(duì)大家的學(xué)習(xí)或者工作具有一定的參考學(xué)習(xí)價(jià)值,需要的朋友們下面隨著小編來(lái)一起學(xué)習(xí)學(xué)習(xí)吧2021-03-03R語(yǔ)言繪制corrplot相關(guān)熱圖分析美化示例及詳細(xì)圖解
這篇文章主要為大家介紹了R語(yǔ)言corrplot相關(guān)熱圖分析美化示例及詳細(xì)圖解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-06-06R語(yǔ)言符號(hào)知識(shí)點(diǎn)匯總
在本篇文章里小編給大家整理的是一篇關(guān)于R語(yǔ)言符號(hào)知識(shí)點(diǎn)匯總內(nèi)容,有需要的朋友們可以學(xué)習(xí)下。2021-03-03R語(yǔ)言關(guān)于生存分析知識(shí)點(diǎn)總結(jié)
在本篇文章里,小編給大家整理的是一篇關(guān)于R語(yǔ)言生存分析的相關(guān)知識(shí)點(diǎn)及實(shí)例內(nèi)容,有興趣的朋友們跟著學(xué)習(xí)下吧。2021-05-05R語(yǔ)言ggplot2拼圖包patchwork安裝使用
這篇文章主要介紹了R語(yǔ)言ggplot2拼圖包patchwork安裝使用的圖文示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步,早日升職加薪2022-06-06R語(yǔ)言wilcoxon秩和檢驗(yàn)及wilcoxon符號(hào)秩檢驗(yàn)的操作
這篇文章主要介紹了R語(yǔ)言wilcoxon秩和檢驗(yàn)及wilcoxon符號(hào)秩檢驗(yàn)的操作,具有很好的參考價(jià)值,希望對(duì)大家有所幫助。一起跟隨小編過(guò)來(lái)看看吧2021-04-04R語(yǔ)言學(xué)習(xí)筆記缺失數(shù)據(jù)的Bootstrap與Jackknife方法
這篇文章主要為大家介紹了R語(yǔ)言學(xué)習(xí)筆記關(guān)于缺失數(shù)據(jù)的Bootstrap與Jackknife的方法,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進(jìn)步2021-11-11R語(yǔ)言關(guān)于二項(xiàng)分布知識(shí)點(diǎn)總結(jié)
在本篇內(nèi)容里小編給大家整理的是一篇關(guān)于R語(yǔ)言關(guān)于二項(xiàng)分布知識(shí)點(diǎn)總結(jié)內(nèi)容,有興趣的朋友們可以學(xué)習(xí)下。2021-05-05