安裝OpenMPI來配合C語言程序進(jìn)行并行計(jì)算
安裝OPENMPI
由于是實(shí)驗(yàn)，也不進(jìn)行多機(jī)的配置了，只在虛擬機(jī)里安裝吧。多個(gè)機(jī)器的配置可以參考此文
最簡單的方法，apt安裝
sudo apt-get install libcr-dev mpich2 mpich2-doc
測試
hello.c
/* C Example */
#include <mpi.h>
#include <stdio.h>
int main (int argc, char* argv[])
{
int rank, size;
MPI_Init (&argc, &argv); /* starts MPI */
MPI_Comm_rank (MPI_COMM_WORLD, &rank); /* get current process id */
MPI_Comm_size (MPI_COMM_WORLD, &size); /* get number of processes */
printf( "Hello world from process %d of %d\n", rank, size );
MPI_Finalize();
return 0;
}
編譯運(yùn)行及顯示結(jié)果
mpicc mpi_hello.c -o hello mpirun -np 2 ./hello Hello world from process 0 of 2 Hello world from process 1 of 2
正常出現(xiàn)結(jié)果表明沒有問題，
看下openmpi的版本
mpirun --version
mpirun (Open MPI) 1.6.5 Report bugs to http://www.open-mpi.org/community/help/
MPI計(jì)算矩陣乘法
通過opemMPI加速矩陣乘法運(yùn)算。采用主從模式，0號(hào)是master，其他是child（或者叫worker，as you wish）。
基本思路
兩個(gè)矩陣A，B進(jìn)行乘法運(yùn)算，則A的行 i 乘以B的列 j 得出的數(shù)是新矩陣(i,j)坐標(biāo)的數(shù)值。A(MN) B(NK)最后矩陣是M*K的，實(shí)驗(yàn)中M=N=K=1000，我也就沒有明確區(qū)分MNK，全部用MATRIX_SIZE定義的。
最簡單的思路就是每個(gè)worker分配(MATRIX_SIZE/(numprocess-1))個(gè)，然后如果有余下的，就分給余數(shù)對(duì)應(yīng)的worker。比如MATRIX_SIZE=10，numprocess=4 則實(shí)際的worker有3個(gè)，每個(gè)人分3行，最后的一行給id是1的?？梢院芎唵蔚睦醚h(huán)類分配。最后Master收集所有的結(jié)果，并按照順序組裝起來就行。
每個(gè)worker的工作就是接收來自master的一行，和B矩陣運(yùn)算，得出新一行的結(jié)果，然后發(fā)送回master
代碼
多加了很多注釋來解釋，函數(shù)的說明下一節(jié)解釋下。
#include <mpi.h>
#include <stdio.h>
#define MATRIX_SIZE 10
#define FROM_MASTER 1 //這里的類型可以區(qū)分消息的種類，以便區(qū)分worker發(fā)送來的結(jié)果
#define FROM_CHILD 2
#define MASTER 0
MPI_Status status;
int myid,numprocess;
//最終保存的結(jié)果
int ans [MATRIX_SIZE*MATRIX_SIZE];
int A[MATRIX_SIZE*MATRIX_SIZE],B[MATRIX_SIZE*MATRIX_SIZE];
//讀取文件，注意讀取文件要放在master里，不然會(huì)讀兩遍，出現(xiàn)錯(cuò)誤
void readFile(){
FILE* fina,*finb;
fina=fopen("a.txt","r");
int i;
for (i = 0; i < MATRIX_SIZE*MATRIX_SIZE ; ++i)
{
fscanf(fina,"%d ",&A[i]);
}
fclose(fina);
finb=fopen("b.txt","r");
for(i=0;i<MATRIX_SIZE*MATRIX_SIZE;i++)
fscanf(finb,"%d ",&B[i]);
fclose(finb);
printf("read file ok\n");
}
int master(){
int workid,dest,i,j;
printf("numprocess %d\n",numprocess );
//給每個(gè)worker發(fā)送B矩陣過去
for(i=0;i<numprocess-1;i++){
//send B matrix
MPI_Send(&B,MATRIX_SIZE*MATRIX_SIZE,MPI_INT,i+1,FROM_MASTER,MPI_COMM_WORLD);
}
//開始給每個(gè)worker分配任務(wù)，取模即可
for (i = 0; i < MATRIX_SIZE; i++)
{
//attention: num of workers is numprocess-1
workid=i%(numprocess-1)+1;
//send single line in A
MPI_Send(&A[i*MATRIX_SIZE],MATRIX_SIZE,MPI_INT,workid,FROM_MASTER,MPI_COMM_WORLD);
}
//等待從worker發(fā)送來的數(shù)據(jù)
int tempLine[MATRIX_SIZE];
for (i = 0; i < MATRIX_SIZE*MATRIX_SIZE; i++)
{
ans[i]=0;
}
for (i = 0; i < MATRIX_SIZE; ++i)
{
int myprocess=i%(numprocess-1)+1;
printf("Master is waiting %d\n",myprocess);
//receive every line from every process
MPI_Recv(&tempLine,MATRIX_SIZE,MPI_INT,myprocess,FROM_CHILD,MPI_COMM_WORLD,&status);
//發(fā)送過來的都是計(jì)算好了的一行的數(shù)據(jù)，直接組裝到ans里就行
for(j=0;j<MATRIX_SIZE;j++){
ans[MATRIX_SIZE*i+j]=tempLine[j];
}
printf("Master gets %d\n",i);
}
for(i=0;i<MATRIX_SIZE*MATRIX_SIZE;i++){
printf("%d ",ans[i] );
if(i%MATRIX_SIZE==(MATRIX_SIZE-1))printf("\n");
}
printf("The Master is out\n");
}
int worker(){
int mA[MATRIX_SIZE],mB[MATRIX_SIZE*MATRIX_SIZE],mC[MATRIX_SIZE];
int i,j,bi;
MPI_Recv(&mB,MATRIX_SIZE*MATRIX_SIZE,MPI_INT,MASTER,FROM_MASTER,MPI_COMM_WORLD,&status);
//接收來自master的A的行
for(i=0;i<MATRIX_SIZE/(numprocess-1);i++){
MPI_Recv(&mA,MATRIX_SIZE,MPI_INT,MASTER,FROM_MASTER,MPI_COMM_WORLD,&status);
//矩陣乘法，A 的一行和B矩陣相乘
for(bi=0;bi<MATRIX_SIZE;bi++){
mC[bi]=0;
for(j=0;j<MATRIX_SIZE;j++){
mC[bi]+=mA[j]*mB[bi*MATRIX_SIZE+j];
}
}
MPI_Send(&mC,MATRIX_SIZE,MPI_INT,MASTER,FROM_CHILD,MPI_COMM_WORLD);
}
//如果處于余數(shù)范圍內(nèi)，則需要多計(jì)算一行
if(MATRIX_SIZE%(numprocess-1)!=0){
if (myid<=(MATRIX_SIZE%(numprocess-1)))
{
MPI_Recv(&mA,MATRIX_SIZE,MPI_INT,MASTER,FROM_MASTER,MPI_COMM_WORLD,&status);
for(bi=0;bi<MATRIX_SIZE;bi++){
mC[bi]=0;
for(j=0;j<MATRIX_SIZE;j++){
mC[bi]+=mA[j]*mB[bi*MATRIX_SIZE+j];
}
}
MPI_Send(&mC,MATRIX_SIZE,MPI_INT,MASTER,FROM_CHILD,MPI_COMM_WORLD);
}
}
printf("The worker %d is out\n",myid);
}
int main(int argc, char **argv)
{
MPI_Init (&argc, &argv);
MPI_Comm_rank(MPI_COMM_WORLD,&myid);
MPI_Comm_size(MPI_COMM_WORLD,&numprocess);
if(myid==MASTER){
readFile();
master();
}
if(myid>MASTER){
worker();
}
MPI_Finalize();
return 0;
}
OPENMPI簡單函數(shù)介紹
針對(duì)實(shí)驗(yàn)用到的幾個(gè)函數(shù)進(jìn)行說明。
MPI為程序員提供一個(gè)并行環(huán)境庫，程序員通過調(diào)用MPI的庫程序來達(dá)到程序員所要達(dá)到的并行目的，可以只使用其中的6個(gè)最基本的函數(shù)就能編寫一個(gè)完整的MPI程序去求解很多問題。這6個(gè)基本函數(shù)，包括啟動(dòng)和結(jié)束MPI環(huán)境，識(shí)別進(jìn)程以及發(fā)送和接收消息：
理論上說，MPI所有的通信功能可以用它的六個(gè)基本的調(diào)用來實(shí)現(xiàn)：
- MPI_INIT 啟動(dòng)MPI環(huán)境
- MPI_COMM_SIZE 確定進(jìn)程數(shù)
- MPI_COMM_RANK 確定自己的進(jìn)程標(biāo)識(shí)符
- MPI_SEND 發(fā)送一條消息
- MPI_RECV 接收一條消息
- MPI_FINALIZE 結(jié)束MPI環(huán)境
初始化和結(jié)束
MPI初始化：通過MPI_Init函數(shù)進(jìn)入MPI環(huán)境并完成所有的初始化工作。
int MPI_Init( int *argc, char * * * argv )
MPI結(jié)束：通過MPI_Finalize函數(shù)從MPI環(huán)境中退出。
int MPI_Finalize(void)
獲取進(jìn)程的編號(hào)
調(diào)用MPI_Comm_rank函數(shù)獲得當(dāng)前進(jìn)程在指定通信域中的編號(hào)，將自身與其他程序區(qū)分。
int MPI_Comm_rank(MPI_Comm comm, int *rank)
獲取指定通信域的進(jìn)程數(shù)
調(diào)用MPI_Comm_size函數(shù)獲取指定通信域的進(jìn)程個(gè)數(shù)，確定自身完成任務(wù)比例。
int MPI_Comm_size(MPI_Comm comm, int *size)
MPI消息
一個(gè)消息好比一封信
消息的內(nèi)容的內(nèi)容即信的內(nèi)容，在MPI中成為消息緩沖(Message Buffer)
消息的接收發(fā)送者即信的地址，在MPI中成為消息封裝(Message Envelop)
MPI中，消息緩沖由三元組<起始地址，數(shù)據(jù)個(gè)數(shù)，數(shù)據(jù)類型>標(biāo)識(shí)
消息信封由三元組<源/目標(biāo)進(jìn)程，消息標(biāo)簽，通信域>標(biāo)識(shí)
消息發(fā)送
MPI_Send函數(shù)用于發(fā)送一個(gè)消息到目標(biāo)進(jìn)程。
int MPI_Send(void *buf, int count, MPI_Datatype dataytpe, int dest, int tag, MPI_Comm comm)
buf是要發(fā)送數(shù)據(jù)的指針，比如一個(gè)A數(shù)組，可以直接&A，count則是數(shù)據(jù)長度，datatype都要改成MPI的type。dest就是worker的id了。tag則可以通過不同的type來區(qū)分消息類型，比如是master發(fā)送的還是worker發(fā)送的。
消息接收
MPI_Recv函數(shù)用于從指定進(jìn)程接收一個(gè)消息
int MPI_Recv(void *buf, int count, MPI_Datatype datatyepe,int source, int tag, MPI_Comm comm, MPI_Status *status)
編譯和執(zhí)行
生成執(zhí)行文件data
mpicc -o programname programname.c
一個(gè)MPI并行程序由若干個(gè)并發(fā)進(jìn)程組成，這些進(jìn)程可以相同也可以不同。MPI只支持靜態(tài)進(jìn)程創(chuàng)建，即：每個(gè)進(jìn)程在執(zhí)行前必須在MPI環(huán)境中登記，且它們必須一起啟動(dòng)。通常啟動(dòng)可執(zhí)行的MPI程序是通過命令行來實(shí)現(xiàn)的。啟動(dòng)方法由具體實(shí)現(xiàn)確定。例如在MPICH實(shí)現(xiàn)中通過下列命令行可同時(shí)在獨(dú)立的機(jī)器上啟動(dòng)相同的可執(zhí)行程序：
mpirun –np N programname
其中N是同時(shí)運(yùn)行的進(jìn)程的個(gè)數(shù)，programname是可執(zhí)行的MPI程序的程序名。
相關(guān)文章
VC實(shí)現(xiàn)動(dòng)態(tài)菜單的創(chuàng)建方法
這篇文章主要介紹了VC實(shí)現(xiàn)動(dòng)態(tài)菜單的創(chuàng)建方法,需要的朋友可以參考下2014-07-07
C語言數(shù)據(jù)結(jié)構(gòu)中二分查找遞歸非遞歸實(shí)現(xiàn)并分析
這篇文章主要介紹了C語言數(shù)據(jù)結(jié)構(gòu)中二分查找遞歸非遞歸實(shí)現(xiàn)并分析的相關(guān)資料,需要的朋友可以參考下2017-03-03
本文主要介紹了C語言中的浮點(diǎn)數(shù)（float,double）,并通過實(shí)例代碼進(jìn)行分析比較,希望能幫助學(xué)習(xí)相關(guān)知識(shí)的同學(xué)2016-07-07
C++?LeetCode1769移動(dòng)所有球到每個(gè)盒子最小操作數(shù)示例
這篇文章主要為大家介紹了C++?LeetCode1769移動(dòng)所有球到每個(gè)盒子所需最小操作數(shù)示例，有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪2022-12-12
pair是C++STL(標(biāo)準(zhǔn)模板庫)中的一個(gè)現(xiàn)有容器,它將2個(gè)數(shù)據(jù)整合成一組數(shù)據(jù)，當(dāng)我們類似需求的時(shí)候就可以使用到pair，pair的本質(zhì)其實(shí)就是個(gè)結(jié)構(gòu)體，本文將詳細(xì)的給大家介紹pair用法，感興趣的同學(xué)可以參考閱讀2023-05-05
二叉搜索樹作為一個(gè)經(jīng)典的數(shù)據(jù)結(jié)構(gòu)，具有鏈表的快速插入與刪除的特點(diǎn)，同時(shí)查詢效率也很優(yōu)秀，所以應(yīng)用十分廣泛。本文將詳細(xì)講講二叉搜索樹的C++實(shí)現(xiàn)，需要的可以參考一下2022-08-08
這篇文章主要為大家詳細(xì)介紹了C語言代碼實(shí)現(xiàn)掃雷小游戲，文中示例代碼介紹的非常詳細(xì)，具有一定的參考價(jià)值，感興趣的小伙伴們可以參考一下2020-02-02
C語言實(shí)現(xiàn)古代時(shí)辰計(jì)時(shí)與現(xiàn)代時(shí)間換算
這篇文章主要為大家詳細(xì)介紹了如何利用C語言實(shí)現(xiàn)古代時(shí)辰計(jì)時(shí)與現(xiàn)代時(shí)間換算，文中的示例代碼講解詳細(xì)，感興趣的小伙伴可以了解一下2023-03-03
2013-10-10
C語言簡明分析選擇結(jié)構(gòu)和循環(huán)結(jié)構(gòu)的使用
C語言條件控制語句選擇結(jié)構(gòu)，是屬于計(jì)算機(jī)的語言編輯，有在C語言條件控制中的語句選擇結(jié)構(gòu)的存在，即是C語言條件控制語句選擇結(jié)構(gòu)，循環(huán)控制語句是一個(gè)基于C語言的編程語句，該語句主要有while循環(huán)語句、do-while循環(huán)語句和for循環(huán)語句來實(shí)現(xiàn)循環(huán)結(jié)構(gòu)2022-04-04