快捷導(dǎo)航

詳解MongoDB中用sharding將副本集分配至服務(wù)器集群的方法

更新時(shí)間：2016年07月04日 17:25:51 作者：lucifercn

副本集是MongoDB的主從復(fù)制中的重要功能,經(jīng)常被用來作額外的備份,這里我們就來詳解MongoDB中用sharding將副本集分配至服務(wù)器集群的方法,首先還是來回顧一下MongoDB中副本集的基本知識:

關(guān)于副本集

副本集是一種在多臺機(jī)器同步數(shù)據(jù)的進(jìn)程。
副本集體提供了數(shù)據(jù)冗余，擴(kuò)展了數(shù)據(jù)可用性。在多臺服務(wù)器保存數(shù)據(jù)可以避免因?yàn)橐慌_服務(wù)器導(dǎo)致的數(shù)據(jù)丟失。
也可以從硬件故障或服務(wù)中斷解脫出來，利用額外的數(shù)據(jù)副本，可以從一臺機(jī)器致力于災(zāi)難恢復(fù)或者備份。

在一些場景，可以使用副本集來擴(kuò)展讀性能?？蛻舳擞心芰Πl(fā)送讀寫操作給不同的服務(wù)器。
也可以在不同的數(shù)據(jù)中心獲取不同的副本來擴(kuò)展分布式應(yīng)用的能力。

mongodb副本集是一組擁有相同數(shù)據(jù)的mongodb實(shí)例，主mongodb接受所有的寫操作，所有的其他實(shí)例可以接受主實(shí)例的操作以保持?jǐn)?shù)據(jù)同步。
主實(shí)例接受客戶可的寫操作，副本集只能有一個(gè)主實(shí)例，因?yàn)闉榱司S持?jǐn)?shù)據(jù)一致性，只有一個(gè)實(shí)例可寫，主實(shí)例的日志保存在oplog。

Client Application Driver
  Writes  Reads
    |   |
    Primary
  |Replication|Replication
Secondary    Secondary

二級節(jié)點(diǎn)復(fù)制主節(jié)點(diǎn)的oplog然后在自己的數(shù)據(jù)副本上執(zhí)行操作，二級節(jié)點(diǎn)是主節(jié)點(diǎn)數(shù)據(jù)的反射，如果主節(jié)點(diǎn)不可用，會選舉一個(gè)新的主節(jié)點(diǎn)。默認(rèn)讀操作是在主節(jié)點(diǎn)進(jìn)行的，但是可以指定讀取首選項(xiàng)參數(shù)來指定讀操作到副本節(jié)點(diǎn)。
可以添加一個(gè)額外的仲裁節(jié)點(diǎn)（不擁有被選舉權(quán)），使副本集節(jié)點(diǎn)保持奇數(shù)，確保可以選舉出票數(shù)不同的直接點(diǎn)。仲裁者并不需要專用的硬件設(shè)備。
仲裁者節(jié)點(diǎn)一直會保存仲裁者身份。

1.異步復(fù)制
副本節(jié)點(diǎn)同步直接點(diǎn)操作是異步的，然而會導(dǎo)致副本集無法返回最新的數(shù)據(jù)給客戶端程序。

2.自動(dòng)故障轉(zhuǎn)移
如果主節(jié)點(diǎn)10s以上與其他節(jié)點(diǎn)失去通信，其他節(jié)點(diǎn)將會選舉新的節(jié)點(diǎn)作為主節(jié)點(diǎn)。
擁有大多數(shù)選票的副節(jié)點(diǎn)會被選舉為主節(jié)點(diǎn)。

副本集提供了一些選項(xiàng)給應(yīng)用程序，可以做一個(gè)成員位于不同數(shù)據(jù)中心的副本集。
也可以指定成員不同的優(yōu)先級來控制選舉。

sharding轉(zhuǎn)換一個(gè)副本集為分片集群
1. 部署一個(gè)測試副本集
創(chuàng)建第一個(gè)副本集實(shí)例，名稱為firstset:
1.1 創(chuàng)建副本集并且插入數(shù)據(jù)如下:

  /data/example/firstset1
  /data/example/firstset2
  /data/example/firstset3

創(chuàng)建目錄:

mkdir -p /data/example/firstset1 /data/example/firstset2 /data/example/firstset3

1.2 在其他終端啟動(dòng)三個(gè)mongodb實(shí)例，如下：

mongod --dbpath /data/example/firstset1 --port 10001 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset1/firstset1.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/firstset2 --port 10002 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset2/firstset2.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/firstset3 --port 10003 --replSet firstset --oplogSize 700 --rest --fork --logpath /data/example/firstset3/firstset3.log --logappend --nojournal --directoryperdb

--oplog選項(xiàng)強(qiáng)制每個(gè)mongodb實(shí)例操作日志為700M，不使用該參數(shù)則默認(rèn)為分區(qū)空間的5%，限制oplog的大小，可以使每個(gè)實(shí)例啟動(dòng)的快一點(diǎn)。
1.3 連接一個(gè)mongodb實(shí)例的shell

mongo mongo01:10001/admin

如果是運(yùn)行在生產(chǎn)環(huán)境下，或者不同主機(jī)名或IP的機(jī)器上，需要修改mongo01為指定名稱。
1.4 在mongo shell上初始化副本集

var config = {
  "_id" : "firstset",
  "members" : [
    {"_id" : 0, "host" : "mongo01:10001"},
    {"_id" : 1, "host" : "mongo01:10002"},
    {"_id" : 2, "host" : "mongo01:10003"},
  ]
}
rs.initiate(config);
{
    "info" : "Config now saved locally. Should come online in about a minute.",
    "ok" : 1
}

或

db.runCommand(
  {"replSetInitiate" :
    {"_id" : "firstset",
    "members" : [
      {"_id" : 0, "host" : "mongo01:10001"},
      {"_id" : 1, "host" : "mongo01:10002"},
      {"_id" : 2, "host" : "mongo01:10003"}
      ]
    }
  }
)

1.5 在mongo shell中創(chuàng)建并插入數(shù)據(jù)：

use mydb
switched to db mydb
animal = ["dog", "tiger", "cat", "lion", "elephant", "bird", "horse", "pig", "rabbit", "cow", "dragon", "snake"];
for(var i=0; i<100000; i++){
  name = animal[Math.floor(Math.random()*animal.length)];
  user_id = i;
  boolean = [true, false][Math.floor(Math.random()*2)];
  added_at = new Date();
  number = Math.floor(Math.random()*10001);
  db.test_collection.save({"name":name, "user_id":user_id, "boolean": boolean, "added_at":added_at, "number":number });
}

上面的操作會向集合test_collection插入100萬條數(shù)據(jù)，根據(jù)系統(tǒng)不同，可能會花費(fèi)幾分鐘的時(shí)間。
腳本會加入如下格式的文檔：

2. 部署一個(gè)分片設(shè)施
創(chuàng)建三個(gè)配置服務(wù)器來保存集群的元數(shù)據(jù)。
對于開發(fā)或者測試環(huán)境下，一個(gè)配置服務(wù)器足夠了，在生產(chǎn)環(huán)境下，需要三天配置服務(wù)器，因?yàn)樗鼈冎恍枰加煤苌俚馁Y源來保存元數(shù)據(jù)。
2.1 創(chuàng)建配置服務(wù)器的數(shù)據(jù)文件保存目錄：

  /data/example/config1
  /data/example/config2
  /data/example/config3

創(chuàng)建目錄:

mkdir -p /data/example/config1 /data/example/config2 /data/example/config3

2.2 在另外的終端下，啟動(dòng)配置服務(wù)器：

mongod --configsvr --dbpath /data/example/config1 --port 20001 --fork --logpath /data/example/config1/config1.log --logappend
mongod --configsvr --dbpath /data/example/config2 --port 20002 --fork --logpath /data/example/config2/config2.log --logappend
mongod --configsvr --dbpath /data/example/config3 --port 20003 --fork --logpath /data/example/config3/config3.log --logappend

2.3 在另外的終端下，啟動(dòng)mongos實(shí)例：
mongos --configdb mongo01:20001,mongo01:20002,mongo01:20003 --port 27017 --chunkSize 1 --fork --logpath /data/example/mongos.log --logappend如果使用的是以前創(chuàng)建的表或者測試環(huán)境下，可以使用最小的chunksize(1M)，默認(rèn)chunksize為64M意味著在mongodb自動(dòng)分片啟動(dòng)前，集群必須擁有64MB的數(shù)據(jù)文件。
在生產(chǎn)環(huán)境下是不能使用很小的分片大小的。
configdb選項(xiàng)指定了配置服務(wù)器。mongos實(shí)例運(yùn)行在默認(rèn)的mongodb27017端口。
2.4 可以在mongos添加第一個(gè)分片，在新的終端執(zhí)行以下命令：
2.4.1 連接mongos實(shí)例

mongo mongo01:27017/admin

2.4.2 使用addShard命令添加第一個(gè)分片

db.runCommand( { addShard : "firstset/mongo01:10001,mongo01:10002,mongo01:10003" } )

2.4.3 出現(xiàn)以下信息，表示成功：

{ "shardAdded" : "firstset", "ok" : 1 }

3. 部署另一個(gè)測試副本集
創(chuàng)建另外一個(gè)副本集實(shí)例，名稱為secondset:
3.1 創(chuàng)建副本集并且插入數(shù)據(jù)如下:

  /data/example/secondset1
  /data/example/secondset2
  /data/example/secondset3

創(chuàng)建目錄:

mkdir -p /data/example/secondset1 /data/example/secondset2 /data/example/secondset3

3.2 在其他終端啟動(dòng)三個(gè)mongodb實(shí)例，如下：

mongod --dbpath /data/example/secondset1 --port 30001 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset1/secondset1.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/secondset2 --port 30002 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset2/secondset2.log --logappend --nojournal --directoryperdb
mongod --dbpath /data/example/secondset3 --port 30003 --replSet secondset --oplogSize 700 --rest --fork --logpath /data/example/secondset3/secondset3.log --logappend --nojournal --directoryperdb

3.3 連接一個(gè)mongodb實(shí)例的shell

mongo mongo01:20001/admin

3.4 在mongo shell上初始化副本集

db.runCommand(
  {"replSetInitiate" :
    {"_id" : "secondset",
    "members" : [
      {"_id" : 0, "host" : "mongo01:30001"},
      {"_id" : 1, "host" : "mongo01:30002"},
      {"_id" : 2, "host" : "mongo01:30003"}
      ]
    }
  }
)

3.5 將該副本集加入分片集群

db.runCommand( { addShard : "secondset/mongo01:30001,mongo01:30002,mongo01:30003" } )

返回成功信息：

{ "shardAdded" : "firstset", "ok" : 1 }

3.6 通過運(yùn)行l(wèi)istShards命令證實(shí)分片都添加成功。如下：

db.runCommand({listShards:1})
{
  "shards" : [
    {
      "_id" : "firstset",
      "host" : "firstset/mongo01:10001,mongo01:10002,mongo01:10003"
    },
    {
      "_id" : "secondset",
      "host" : "secondset/mongo01:30001,mongo01:30002,mongo01:30003"
    }
  ],
  "ok" : 1
}

您可能感興趣的文章: