快捷導(dǎo)航

ZooKeeper集群操作及集群Master選舉搭建啟動(dòng)

更新時(shí)間：2022年08月10日 17:14:49 作者：行百里er

這篇文章主要為大家介紹了ZooKeeper集群操作及集群Master選舉搭的建啟動(dòng)詳解，<BR>有需要的朋友可以借鑒參考下，希望能夠有所幫助，祝大家多多進(jìn)步，早日升職加薪

ZooKeeper介紹

ZooKeeper 是一個(gè)為 分布式應(yīng)用 提供的 分布式 、開(kāi)源的 協(xié)調(diào)服務(wù) 。

它公開(kāi)了一組簡(jiǎn)單的原語(yǔ) ，分布式應(yīng)用程序可以根據(jù)這些原語(yǔ)來(lái)實(shí)現(xiàn)用于同步、配置維護(hù) 以及命名的更高級(jí)別的服務(wù)。

怎么理解協(xié)調(diào)服務(wù)呢？比如我們有很多應(yīng)用程序，他們之間都需要讀寫(xiě)維護(hù)一個(gè) id ，那么這些 id 怎么命名呢，程序一多，必然會(huì)亂套，ZooKeeper 能協(xié)調(diào)這些服務(wù)，解決命名、配置、同步等問(wèn)題，而做到這些，只需要一組簡(jiǎn)單的原語(yǔ) 即可：

create : 在樹(shù)中的某個(gè)位置創(chuàng)建一個(gè)節(jié)點(diǎn)

delete : 刪除一個(gè)節(jié)點(diǎn)

exists : 測(cè)試節(jié)點(diǎn)是否存在于某個(gè)位置

get data : 從節(jié)點(diǎn)讀取數(shù)據(jù)

set data : 往一個(gè)節(jié)點(diǎn)里寫(xiě)入數(shù)據(jù)

get children : 檢索節(jié)點(diǎn)的子節(jié)點(diǎn)列表

sync : 等待數(shù)據(jù)被傳播

從這些 ZooKeeper （以下簡(jiǎn)稱ZK）的 API 可以看到，都是圍繞 Node 來(lái)操作，下文實(shí)操看一下怎么操作 Node 。

ZooKeeper特征

簡(jiǎn)單

ZooKeeper 允許分布式進(jìn)程通過(guò) 共享的層級(jí)命名空間 相互協(xié)調(diào)，該命名空間的組織類似于標(biāo)準(zhǔn)文件系統(tǒng)。

命名空間由數(shù)據(jù)寄存器組成，在 ZooKeeper 稱為 znodes ，它們類似于文件和目錄。

與典型的文件系統(tǒng)不同，它是為 存儲(chǔ) 而設(shè)計(jì)的，ZooKeeper 數(shù)據(jù)保存在 內(nèi)存 中，這意味著ZooKeeper 可以實(shí)現(xiàn) 高吞吐量 和 低延遲數(shù) 。

ZooKeeper 很重視 高性能，高可用性 ，嚴(yán)格有序訪問(wèn) ：性能高意味著它可以在大型分布式系統(tǒng)中使用；而他又具備可靠性，這使它不會(huì)成為單點(diǎn)故障；嚴(yán)格的排序意味著可以在客戶端上實(shí)現(xiàn)復(fù)雜的同步原語(yǔ)。

可被復(fù)制（高可用）

像它協(xié)調(diào)的分布式進(jìn)程一樣，ZooKeeper 本身也可以在稱為集合的一組主機(jī)上進(jìn)行復(fù)制。

組成ZooKeeper 服務(wù)的服務(wù)器都必須彼此了解。它們維護(hù)內(nèi)存中的狀態(tài)鏡像，以及持久存儲(chǔ)中的事務(wù)日志和快照。只要大多數(shù)服務(wù)器可用，ZooKeeper 服務(wù)將可用。

客戶端連接到單個(gè) ZooKeeper 服務(wù)器。客戶端維護(hù)一個(gè) TCP連接，通過(guò)該連接發(fā)送請(qǐng)求，獲取響應(yīng)，獲取監(jiān)視事件并發(fā)送心跳。如果與服務(wù)器的 TCP連接斷開(kāi)，則客戶端將連接到其他服務(wù)器。

有序的

ZooKeeper 用一個(gè)反映所有 ZooKeeper 事務(wù)順序 的數(shù)字標(biāo)記每個(gè)更新。后續(xù)操作可以使用該命令來(lái)實(shí)現(xiàn)更高級(jí)別的抽象，例如同步、 分布式鎖 。

快

在 讀取為主 的工作負(fù)載中，它特別快。

ZooKeeper 應(yīng)用程序可在數(shù)千臺(tái)計(jì)算機(jī)上運(yùn)行，并且在讀取比寫(xiě)入更常見(jiàn)的情況下，其性能最佳，比率約為10：1。

分層命名空間

ZooKeeper提供的名稱空間與標(biāo)準(zhǔn)文件系統(tǒng)的名稱空間非常相似。

名稱是由斜杠（/）分隔的一系列路徑元素。ZooKeeper 命名空間中的每個(gè)節(jié)點(diǎn)均由路徑標(biāo)識(shí)。

一個(gè) ZK Node 可以存儲(chǔ) 1M 數(shù)據(jù)，Node分為 持久節(jié)點(diǎn) 和 臨時(shí)性節(jié)點(diǎn) 。

持久節(jié)點(diǎn)

與標(biāo)準(zhǔn)文件系統(tǒng)不同，ZooKeeper 命名空間中的每個(gè)節(jié)點(diǎn)都可以具有與其關(guān)聯(lián)的 數(shù)據(jù) 以及 子節(jié)點(diǎn) 。就像擁有一個(gè)文件系統(tǒng)一樣，該文件系統(tǒng)也允許文件成為目錄。

ZooKeeper旨在存儲(chǔ)協(xié)調(diào)數(shù)據(jù)：狀態(tài)信息，配置，位置信息等，因此存儲(chǔ)在每個(gè)節(jié)點(diǎn)上的數(shù)據(jù)通常很小，在字節(jié)到千字節(jié)范圍內(nèi)。

Znodes 維護(hù)一個(gè)統(tǒng)計(jì)信息結(jié)構(gòu)，其中包括用于 數(shù)據(jù)更改 ，ACL更改（權(quán)限控制） 和 時(shí)間戳的版本號(hào) ，以允許進(jìn)行 緩存驗(yàn)證 和 協(xié)調(diào)更新 。

Znode 的數(shù)據(jù)每次更改時(shí)，版本號(hào)都會(huì)增加。例如，每當(dāng)客戶端檢索數(shù)據(jù)時(shí)，它也會(huì)接收數(shù)據(jù)的版本。

原子地讀取和寫(xiě)入存儲(chǔ)在名稱空間中每個(gè) Znode 上的數(shù)據(jù)。讀取將獲取與znode關(guān)聯(lián)的所有數(shù)據(jù)字節(jié)，而寫(xiě)入將替換所有數(shù)據(jù)。每個(gè)節(jié)點(diǎn)都有一個(gè)訪問(wèn)控制列表（ACL），用于限制誰(shuí)可以做什么。

臨時(shí)節(jié)點(diǎn)

只要?jiǎng)?chuàng)建 Znode 的會(huì)話處于 活動(dòng)狀態(tài) ，這些 Znode 就一致存在。會(huì)話結(jié)束時(shí)，將刪除 Znode ，這就是臨時(shí)節(jié)點(diǎn)。

類比于web容器比如tomcat的session，創(chuàng)建臨時(shí)節(jié)點(diǎn)的session存在，則node存在，session結(jié)束，刪除node。

以上是理論知識(shí)，還是實(shí)際操作一遍比較靠譜，理解一下zk創(chuàng)建連接、node、session這些概念，以及看看zk集群的leader出故障后，選出leader的速度。

搭建ZK集群

首先準(zhǔn)備 4 臺(tái) CentOS 7 虛擬機(jī)，都安裝好了JDK 8（JDK版本最好不要小于8）。

這四臺(tái)虛擬機(jī)主機(jī)名稱分別設(shè)置為：zknode01 、zknode02 、zknode03 、zknode04 。

hostnamectl set-hostname zknode01

主機(jī)名在配置 ZooKeeper 集群的時(shí)候有用。

主機(jī)名稱配置好之后，還需要配置主機(jī)名和IP地址的映射關(guān)系，每臺(tái)主機(jī)均編輯 /etc/hosts 文件，末尾添加如下內(nèi)容：

192.168.242.11 zknode01
192.168.242.12 zknode02
192.168.242.13 zknode03
192.168.242.14 zknode04

保證每臺(tái)主機(jī)都能互相 ping 通：

接下來(lái)，先安裝配置好其中一臺(tái)服務(wù)器的 ZooKeeper ，然后用 scp 分發(fā)到各個(gè)服務(wù)器，再分別修改 zk server 的 id ，這樣不用每臺(tái)虛擬機(jī)都執(zhí)行一遍相同的操作。

下載zk，注意一定要是apache-zookeeper-3.7.1-bin.tar.gz這個(gè)帶bin的，否則如果不是帶bin的，啟動(dòng)的時(shí)候會(huì)報(bào)如下錯(cuò)誤：

Error: Could not find or load main class org.apache.zookeeper.server.quorum.QuorumPeerMain
Caused by: java.lang.ClassNotFoundException: org.apache.zookeeper.server.quorum.QuorumPeerMain

保姆式安裝zk步驟：

將下載好的 apache-zookeeper-3.7.1-bin.tar.gz 放到/opt目錄下
1. cd /opt
2. tar xf apache-zookeeper-3.7.1-bin.tar.gz
3. mv apache-zookeeper-3.7.1-bin zookeeper
4. vi /etc/profile
export JAVA_HOME=/usr/local/java
export ZK_HOME=/opt/zookeeper
export PATH=$PATH:$JAVA_HOME/bin:$ZK_HOME/bin
5. source /etc/profile
6. cd /opt/zookeeper/conf
7. cp zoo_sample.cfg zoo.cfg
8. vi zoo.cfg
設(shè)置 dataDir=/var/zookeeper
末尾添加：
server.1=zknode01:2888:3888
server.2=zknode02:2888:3888
server.3=zknode03:2888:3888
server.4=zknode04:2888:3888
9. mkdir -p /var/zookeeper
10. echo 1 > /var/zookeeper/myid

這樣 zknode01 的 zkserver 就搭建好了，現(xiàn)在將 ZooKeeper目錄 和 配置文件 分發(fā)到其余三臺(tái)服務(wù)器：

# 傳到 zknode02
scp -r /opt/zookeeper/ root@zknode02:/opt/
scp /etc/profile root@zknode02:/etc
# 傳到 zknode03
scp -r /opt/zookeeper/ root@zknode03:/opt/
scp /etc/profile root@zknode03:/etc
# 傳到 zknode04
scp -r /opt/zookeeper/ root@zknode04:/opt/
scp /etc/profile root@zknode04:/etc

別忘了，每臺(tái)主機(jī)都需要執(zhí)行 source /etc/profile 和創(chuàng)建 /var/zookeeper/myid 文件，myid 的內(nèi)容分別為 2,3,4 。

這樣 zk集群 就搭建好了。

啟動(dòng)zk集群

按順序啟動(dòng) zknode01 ，zknode02 ，zknode03 ，zknode04 的zk服務(wù)：

zkServer.sh start-foreground

zk默認(rèn)后臺(tái)啟動(dòng)，start-foreground表示前臺(tái)啟動(dòng)，方便看日志。

啟動(dòng)zknode01的zk server：

會(huì)報(bào)錯(cuò)，因?yàn)?zoo.cfg 配置了4臺(tái)主機(jī)，其余三臺(tái)還未啟動(dòng)，接著啟動(dòng) zknode02 的：

現(xiàn)象同 zknode01 ，繼續(xù)啟動(dòng)第三臺(tái)：

這個(gè)時(shí)候也會(huì)報(bào) zknode04 連接不上（因?yàn)檫€沒(méi)啟動(dòng)），但是整個(gè)zk集群已經(jīng)啟動(dòng)了，并且選擇了 zknode03 這個(gè)為leader。

把 zknode04 也啟動(dòng)一下：

啟動(dòng)完成后，開(kāi)一個(gè) zknode01 的zk客戶端：

zkCli.sh
[zk: localhost:2181(CONNECTED) 0] help
ZooKeeper -server host:port -client-configuration properties-file cmd args
	addWatch [-m mode] path # optional mode is one of [PERSISTENT, PERSISTENT_RECURSIVE] - default is PERSISTENT_RECURSIVE
	addauth scheme auth
	close 
	config [-c] [-w] [-s]
	connect host:port
	create [-s] [-e] [-c] [-t ttl] path [data] [acl]
	delete [-v version] path
	deleteall path [-b batch size]
	delquota [-n|-b] path
	get [-s] [-w] path
	getAcl [-s] path
	getAllChildrenNumber path
	getEphemerals path
	history 
	listquota path
	ls [-s] [-w] [-R] path
	printwatches on|off
	quit

用上面的命令操作一波：

[zk: localhost:2181(CONNECTED) 1] ls
ls [-s] [-w] [-R] path
[zk: localhost:2181(CONNECTED) 2] ls /
[zookeeper]
[zk: localhost:2181(CONNECTED) 3] 
[zk: localhost:2181(CONNECTED) 3] create /laogong
Created /laogong
[zk: localhost:2181(CONNECTED) 4] ls /
[laogong, zookeeper]
[zk: localhost:2181(CONNECTED) 5] get /laogong 
null
[zk: localhost:2181(CONNECTED) 6] create /laogong "laogong"
Node already exists: /laogong
[zk: localhost:2181(CONNECTED) 7] delete /laogong
[zk: localhost:2181(CONNECTED) 8] ls /
[zookeeper]
[zk: localhost:2181(CONNECTED) 9] create /laogong "laogong"
Created /laogong
[zk: localhost:2181(CONNECTED) 10] ls /
[laogong, zookeeper]
[zk: localhost:2181(CONNECTED) 11] get /laogong
laogong
[zk: localhost:2181(CONNECTED) 12] create /laogong/laopo "laopo"
Created /laogong/laopo
[zk: localhost:2181(CONNECTED) 13] ls /
[laogong, zookeeper]
[zk: localhost:2181(CONNECTED) 14] ls /laogong
[laopo]
[zk: localhost:2181(CONNECTED) 15] get /laogong/laopo
laopo
[zk: localhost:2181(CONNECTED) 16]

上面的操作我都是在 zknode01 上面連接zk進(jìn)行操作的，來(lái)看一下，在其他zkserver上有沒(méi)有同步過(guò)來(lái)數(shù)據(jù)：

發(fā)現(xiàn)數(shù)據(jù)已經(jīng)同步，zknode03 和 zknode04 數(shù)據(jù)也同步了。

再來(lái)看一下連接 zknode02 的連接狀態(tài)：

[root@zknode02 ~]# netstat -natp   |   egrep  '(2888|3888)' 
tcp6       0      0 192.168.242.12:3888     :::*                    LISTEN      9530/java           
tcp6       0      0 192.168.242.12:3888     192.168.242.13:47474    ESTABLISHED 9530/java           
tcp6       0      0 192.168.242.12:37804    192.168.242.13:2888     ESTABLISHED 9530/java           
tcp6       0      0 192.168.242.12:3888     192.168.242.14:47530    ESTABLISHED 9530/java           
tcp6       0      0 192.168.242.12:39666    192.168.242.11:3888     ESTABLISHED 9530/java

連接狀態(tài)分析：

上圖是從 zknode02 服務(wù)器查看的，通過(guò)查看每臺(tái)服務(wù)器，最終，zk集群的服務(wù)器每臺(tái)都 互相通信 。

這個(gè) 3888 端口就是選舉master用的，而 2888 端口是leader接受write請(qǐng)求用的。

zk集群master選舉

前面演示了有 4 個(gè)服務(wù)器的 zk集群 ，其中 zknode03 是 leader 。

現(xiàn)在我把 zknode03 服務(wù)干掉：

^C[root@zknode03 conf]# zkServer.sh status
ZooKeeper JMX enabled by default
Using config: /opt/zookeeper/bin/../conf/zoo.cfg
Client port found: 2181. Client address: localhost. Client SSL: false.
Error contacting service. It is probably not running.
[root@zknode03 conf]# 
[root@localhost ~]#

再來(lái)分別看一下 zknode01 ~ zknode04的 zk server 狀態(tài)：

可以看到 zknode04 自動(dòng)成了 leader ！

事實(shí)上，zk集群 選舉 leader 采用的是 謙讓 的辦法，誰(shuí)的 id 大，選舉誰(shuí)。

那么前面為什么zknode3是leader呢？

因?yàn)槲覇?dòng)的順序是 zknode01 ~ zknode04 啟動(dòng)的，當(dāng) zknode03 的zk server 啟動(dòng)的時(shí)候，已經(jīng) 滿足集群的最少節(jié)點(diǎn)數(shù) 了，而且 zknode03 的 id 是 當(dāng)時(shí) 最大的，所以 zknode03 的 server自動(dòng)成了 leader 。

以上就是ZooKeeper集群操作及集群Master選舉搭建啟動(dòng)的詳細(xì)內(nèi)容，更多關(guān)于ZooKeeper集群操作選舉的資料請(qǐng)關(guān)注腳本之家其它相關(guān)文章！

您可能感興趣的文章: