欧美bbbwbbbw肥妇,免费乱码人妻系列日韩,一级黄片

R語言通過parallel包實現(xiàn)多線程運行方式

 更新時間:2021年04月21日 15:16:52   作者:ywliao  
這篇文章主要介紹了R語言通過parallel包實現(xiàn)多線程運行方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧

總的來說,R的運算速度不算快,不過類似并行運算之類的改進可以提高運算的性能。下面非常簡要地介紹如何利用R語言進行并行運算

library(parallel)
cl.cores <- detectCores()
cl <- makeCluster(cl.cores)

detectCores( )檢查當前電腦可用核數(shù)。

makeCluster(cl.cores)使用剛才檢測的核并行運算。R-Doc里這樣描述makeCluster函數(shù):Creates a set of copies of R running in parallel and communicating over sockets. 即同時創(chuàng)建數(shù)個R進行并行運算。

在該函數(shù)執(zhí)行后就已經(jīng)開始并行運算了,電腦可能會變卡一點。尤其在執(zhí)行par開頭的函數(shù)時。

在并行運算環(huán)境下,常用的一些計算方法如下:

1. clusterEvalQ(cl,expr)函數(shù)利用創(chuàng)建的cl執(zhí)行expr

這里利用剛才創(chuàng)建的cl核并行運算expr。expr是執(zhí)行命令的語句,不過如果命令太長的話,一般寫到文件里比較好。比如把想執(zhí)行的命令放在Rcode.r里:

clusterEvalQ(cl,source(file="Rcode.r"))

2.par開頭的apply函數(shù)族

這族函數(shù)和apply的用法基本一樣,不過要多加一個參數(shù)cl。一般如果cl創(chuàng)建如上面cl <- makeCluster(cl.cores)的話,這個參數(shù)可以直接用作parApply(cl=cl,…)。

當然Apply也可以是Sapply,Lapply等等。注意par后面的第一個字母是要大寫的,而一般的apply函數(shù)族第一個字母不大寫。另外要注意,即使構(gòu)建了并行運算的核,不使用parApply()函數(shù),而使用apply()函數(shù)的話,則仍然沒有實現(xiàn)并行運算。

換句話說,makeCluster只是創(chuàng)建了待用的核,而不是并行運算的環(huán)境。

最后,終止并行運算只需要一行命令

stopCluster(cl)

案例1

不使用并行計算,直接使用lapply(隱式循環(huán)函數(shù),它實際就是對不同的數(shù)據(jù)應(yīng)用了相同的函數(shù)):

fun <- function(x){
return (x+1);
}
system.time({
res <- lapply(1:5000000, fun);
});
user  system elapsed
21.42    1.74   25.70

案例2

使用parallel包來加速

library(parallel)
#打開四核,具體核數(shù)根據(jù)機器的核數(shù)決定
cl <- makeCluster(getOption("cl.cores", 4));
system.time({
res <- parLapply(cl, 1:5000000,  fun)
});
user system elapsed
6.54 0.34 19.95
#關(guān)閉并行計算
stopCluster(cl);

看看單核機器跑出來的結(jié)果:

user  system elapsed
29.30    9.23   97.22

所以,并非核數(shù)越多越好,看機器配置。

這個函數(shù)有兩點要注意:

首先要先用detectCores函數(shù)確定系統(tǒng)核心數(shù)目,對于Window系統(tǒng)下的Intel I5或I7 處理器,一般使用detectCores(logical = F)來獲得實際的物理核心數(shù)量。

由于這個函數(shù)使用的是調(diào)用Rscript的方式,這個例子里,對象被復制了三份,因此內(nèi)存會吃的很厲害,在大數(shù)據(jù)條件就要小心使用。

案例3

在Linux下使用mclapply函數(shù)的效果如下:

mc <- getOption("mc.cores", 3)
system.time({
res <- mclapply(1:5000000, fun, mc.cores = mc);
});
user system elapsed
6.657 0.500 7.181
 stopCluster(cl);

補充:R語言如何并行處理[parallel package][向量化操作并行優(yōu)化]

使用數(shù)據(jù),長下面這樣:

方法:

使用parallel包,并行向量化處理,進一步提升原先向量化處理速度。

原始代碼:

start <- Sys.time()
experiment_step1 <- apply(dtc_small_modify, 1, decompose)
end <- Sys.time()
print(end-start)

原始運行時間:3.083114 分

使用parallel包后

library(parallel) #并行處理包
cl.cores <- detectCores(logical = F) #計算電腦核心數(shù)
cl <- makeCluster(cl.cores) # 初始化要使用的核心數(shù)
start <- Sys.time()
results <- parApply(cl=cl, dtc_small_modify, 1, decompose) # apply的并行版本
stopCluster(cl) # 關(guān)閉并行模式
end <- Sys.time()
print(end-start)

并行后

運行時間:55.5877 秒,相較原先,速度提升了將近四倍!

Tips:上述是對向量化(Vectorization)apply類的并行處理。對于apply的并行處理,必須使用par開頭的對應(yīng)apply.

列表如下:

parLapply(cl = NULL, X, fun, …, chunk.size = NULL)
parSapply(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL)
parApply(cl = NULL, X, MARGIN, FUN, …, chunk.size = NULL)
parRapply(cl = NULL, x, FUN, …, chunk.size = NULL)
parCapply(cl = NULL, x, FUN, …, chunk.size = NULL)
parLapplyLB(cl = NULL, X, fun, …, chunk.size = NULL)
parSapplyLB(cl = NULL, X, FUN, …, simplify = TRUE, USE.NAMES = TRUE, chunk.size = NULL)

使用apply類向量化操作后,常常產(chǎn)生大規(guī)模列表,可能需要將列表轉(zhuǎn)成一個完整的大數(shù)據(jù)框。

以上為個人經(jīng)驗,希望能給大家一個參考,也希望大家多多支持腳本之家。如有錯誤或未考慮完全的地方,望不吝賜教。

相關(guān)文章

  • 使用R語言實現(xiàn)自動文摘的方法

    使用R語言實現(xiàn)自動文摘的方法

    本文介紹了如何使用R語言實現(xiàn)自動文摘,我們首先介紹了基于詞頻-逆文檔頻率(TF-IDF)的自動文摘方法,包括創(chuàng)建詞項文檔矩陣,計算TF-IDF值,提取關(guān)鍵詞,以及根據(jù)關(guān)鍵詞生成摘要,需要的朋友一起學習下吧
    2023-05-05
  • R語言中常見的幾種創(chuàng)建矩陣形式總結(jié)

    R語言中常見的幾種創(chuàng)建矩陣形式總結(jié)

    這篇文章主要給大家介紹了關(guān)于R語言中常見的幾種創(chuàng)建矩陣形式的相關(guān)資料,文中通過示例代碼介紹的非常詳細,對大家的學習或者工作具有一定的參考學習價值,需要的朋友們下面隨著小編來一起學習學習吧
    2021-03-03
  • R語言繪制corrplot相關(guān)熱圖分析美化示例及詳細圖解

    R語言繪制corrplot相關(guān)熱圖分析美化示例及詳細圖解

    這篇文章主要為大家介紹了R語言corrplot相關(guān)熱圖分析美化示例及詳細圖解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-06-06
  • R語言符號知識點匯總

    R語言符號知識點匯總

    在本篇文章里小編給大家整理的是一篇關(guān)于R語言符號知識點匯總內(nèi)容,有需要的朋友們可以學習下。
    2021-03-03
  • R語言關(guān)于生存分析知識點總結(jié)

    R語言關(guān)于生存分析知識點總結(jié)

    在本篇文章里,小編給大家整理的是一篇關(guān)于R語言生存分析的相關(guān)知識點及實例內(nèi)容,有興趣的朋友們跟著學習下吧。
    2021-05-05
  • R語言ggplot2拼圖包patchwork安裝使用

    R語言ggplot2拼圖包patchwork安裝使用

    這篇文章主要介紹了R語言ggplot2拼圖包patchwork安裝使用的圖文示例詳解,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步,早日升職加薪
    2022-06-06
  • R語言wilcoxon秩和檢驗及wilcoxon符號秩檢驗的操作

    R語言wilcoxon秩和檢驗及wilcoxon符號秩檢驗的操作

    這篇文章主要介紹了R語言wilcoxon秩和檢驗及wilcoxon符號秩檢驗的操作,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2021-04-04
  • R語言學習筆記缺失數(shù)據(jù)的Bootstrap與Jackknife方法

    R語言學習筆記缺失數(shù)據(jù)的Bootstrap與Jackknife方法

    這篇文章主要為大家介紹了R語言學習筆記關(guān)于缺失數(shù)據(jù)的Bootstrap與Jackknife的方法,有需要的朋友可以借鑒參考下,希望能夠有所幫助,祝大家多多進步
    2021-11-11
  • R語言關(guān)于二項分布知識點總結(jié)

    R語言關(guān)于二項分布知識點總結(jié)

    在本篇內(nèi)容里小編給大家整理的是一篇關(guān)于R語言關(guān)于二項分布知識點總結(jié)內(nèi)容,有興趣的朋友們可以學習下。
    2021-05-05
  • R語言ggplot2之圖例的設(shè)置

    R語言ggplot2之圖例的設(shè)置

    這篇文章主要介紹了R語言ggplot2之圖例的設(shè)置方式,具有很好的參考價值,希望對大家有所幫助。一起跟隨小編過來看看吧
    2021-04-04

最新評論