這篇文章將為大家詳細講解有關如何對FastLeaderElection進行源碼解析,文章內容質量較高,因此小編分享給大家做個參考,希望大家閱讀完這篇文章后對相關知識有一定的了解。
zookeeper作為常用的分布式協調器、注冊中心,在初始化啟動、leader宕機、或者與leader心跳超時等情況下,為保證集群可用性會進行重新選主。選主的默認算法是FastLeaderElection,本文會對FastLeaderElection進行解析。
在QuorumPeer.run()方法中,進行主循環while(running)。如果當前狀態為LOOKING,則進入重新選主的方法lookForLeader。
//主循環
while (running){
...
switch (getPeerState()) {
case LOOKING:
...
//調用makeLEStrategy獲取選主策略,默認為FastLeaderElection
//進入lookForLeader方法,開啟重新選主。
//把lookForLeader返回的結果調用setCurrentVote緩存起來。
setCurrentVote(makeLEStrategy().lookForLeader());
...
break;
case OBSERVING:
...
break;
case FOLLOWING:
...
break;
case LEADING:
break;
}
}進入FastLeaderElection#lookForLeader后,代碼大致邏輯如下
1.leader選舉周期版本號+1,發起第一次投票,默認選自己。
2.開啟循環,接收其他zk節點發來的投票通知
2.1接收不到其他節點的投票時,指數級延長接收等待時間并重新執行步驟2的循環
2.2接收到其他節點投票后,判斷投票通知來源節點的狀態
2.2.1投票來源節點為LOOKING狀態,比較投票通知和本地投票信息緩存。比較投票周期版本號、決議zxid、zk節點的序號,判斷哪個更有效。
2.2.1.2比較后重新計算本機當前的投票信息,包括推選的leader id、推選leader的決議zxid、leader選舉周期版本號,并發送給集群其他節點
2.2.1.3判斷本機最新的投票信息,在本機接收到的所有投票通知緩存中的數量,判斷是否超過集群總數的一半
2.2.1.3.1未超過集群總數的一半,重新執行步驟2的循環
2.2.1.3.2超過集群總數的一半,嘗試循環拉取投票隊列中剩余的其他票。
2.2.1.3.2.1如果拉取到了其他投票,過濾掉無效的票,重新執行步驟2的循環。
2.2.1.3.2.2如果沒有拉取到其他選票,設置當前節點的狀態,LEADING、 FOLLOWING或者OBSERVING,清除緩存,返回最終leader的結果。
2.2.2投票來源節點為OBSERVING,此狀態的節點不能投票,丟棄此票,繼續執行步驟2的循環。
2.2.3投票來源節點為FOLLOWING,說明在集群內部已經選出主節點了,此時放棄自己的投票,查詢outofelection中的其他節點的投票緩存,直接確定leader。設置當前節點狀態為FOLLOWING或者OBSERVING,返回選票結果。
2.2.4投票來源節點為LEADING,說明在集群內部已經選出主節點了,此時放棄自己的投票,查詢outofelection中的其他節點的投票緩存,直接確定leader。設置當前節點狀態為FOLLOWING或者OBSERVING,返回選票結果。
/**
* 開始新一輪leader選舉。每當我們的服務節點狀態變更為LOOKING時,調用此方法,然后向所有其他對等方發送通知
*/
public Vote lookForLeader() throws InterruptedException {
try {
self.jmxLeaderElectionBean = new LeaderElectionBean();
MBeanRegistry.getInstance().register(self.jmxLeaderElectionBean, self.jmxLocalPeerBean);
} catch (Exception e) {
LOG.warn("Failed to register with JMX", e);
self.jmxLeaderElectionBean = null;
}
self.start_fle = Time.currentElapsedTime();
try {
/**
* 當前領導人選舉的選票存儲在recvset這個map中。換句話說,選票Vote在recvset中
* 必須滿足條件v.electionEpoch == logicalclock(判定這個選票,是否屬于這次選舉周期)。
* 當前選舉參與節點使用recvset來推斷是否大多選舉參與節點投了贊成票。
*/
Map<Long, Vote> recvset = new HashMap<Long, Vote>();
/**
* 歷次leader選舉的票數以及本次leader選舉的票數均會存儲在outofelection中。
* 注意,處于LOOKING狀態的通知不會存儲在outofelection中。
*
* 如果當前節點參與選舉時,集群其他節點已經選舉出了leader,則根據這個map中的數據直接跟隨集群leader
*/
Map<Long, Vote> outofelection = new HashMap<Long, Vote>();
int notTimeout = minNotificationInterval;
synchronized (this) {
//選舉的邏輯周期+1,表示發起新一屆選舉
logicalclock.incrementAndGet();
//更新投票信息,第一個參數表示選誰(默認選自己),第二個參數表示當前本地日志中最新的決議zxid,第三個參數表示新的leader周期的epoch編號
updateProposal(getInitId(), getInitLastLoggedZxid(), getPeerEpoch());
}
LOG.info(
"New election. My id = {}, proposed zxid=0x{}",
self.getId(),
Long.toHexString(proposedZxid));
//發送投票信息,廣播給其他節點
sendNotifications();
SyncedLearnerTracker voteSet = null;
/*
* 在循環中,我們和其他zk節點交換通知,直到找到一個leader
*/
while ((self.getPeerState() == ServerState.LOOKING) && (!stop)) {
//從接收隊列中,拉取一個其他節點的投票通知,拉取超時時間為200ms
Notification n = recvqueue.poll(notTimeout, TimeUnit.MILLISECONDS);
//200ms內沒有拉取到新的投票通知,則發送更多投票通知。
//拉取到了則否則處理新投票通知。
if (n == null) {
if (manager.haveDelivered()) {
sendNotifications();
} else {
manager.connectAll();
}
/*
* 指數級延長等待時間
*/
int tmpTimeOut = notTimeout * 2;
notTimeout = Math.min(tmpTimeOut, maxNotificationInterval);
self.getQuorumVerifier().revalidateVoteset(voteSet, notTimeout != minNotificationInterval);
if (self.getQuorumVerifier() instanceof QuorumOracleMaj && voteSet != null && voteSet.hasAllQuorums() && notTimeout != minNotificationInterval) {
setPeerState(proposedLeader, voteSet);
Vote endVote = new Vote(proposedLeader, proposedZxid, logicalclock.get(), proposedEpoch);
leaveInstance(endVote);
return endVote;
}
LOG.info("Notification time out: {} ms", notTimeout);
} else if (validVoter(n.sid) && validVoter(n.leader)) {
//判斷這個投票的來源節點的狀態
switch (n.state) {
//處于選舉中的的狀態
case LOOKING:
//當前日志中最新的zxid為-1,屬于異常情況,直接退出
if (getInitLastLoggedZxid() == -1) {
LOG.debug("Ignoring notification as our zxid is -1");
break;
}
//投票通知中的zxid為-1,也屬于異常情況,直接退出
if (n.zxid == -1) {
LOG.debug("Ignoring notification from member with -1 zxid {}", n.sid);
break;
}
//判斷投票通知中的leader選舉周期版本號,是否大于本地選舉周期中的版本號
if (n.electionEpoch > logicalclock.get()) {
//本地leader選舉周期版本號不是最新的,更新成更新的leader選舉周期版本號
logicalclock.set(n.electionEpoch);
//清除空舊的選票map
recvset.clear();
//調用核心方法totalOrderPredicate
// 投票通知中的信息和本地初始化信息對比,判斷投票是否有效
if (totalOrderPredicate(n.leader, n.zxid, n.peerEpoch, getInitId(), getInitLastLoggedZxid(), getPeerEpoch())) {
//把接收到的投票通知中的信息,更新到本地投票信息中
updateProposal(n.leader, n.zxid, n.peerEpoch);
} else {
//還是和之前一樣,使用本地的投票信息
updateProposal(getInitId(), getInitLastLoggedZxid(), getPeerEpoch());
}
//廣播發送新的投票通知
sendNotifications();
} else if (n.electionEpoch < logicalclock.get()) {
//接收的投票通知中的leader選舉周期版本號比本地的舊,則丟棄這個投票通知
LOG.debug(
"Notification election epoch is smaller than logicalclock. n.electionEpoch = 0x{}, logicalclock=0x{}",
Long.toHexString(n.electionEpoch),
Long.toHexString(logicalclock.get()));
break;
} else if (totalOrderPredicate(n.leader, n.zxid, n.peerEpoch, proposedLeader, proposedZxid, proposedEpoch)) {
//還是調用totalOrderPredicate方法
// 用投票通知中的信息,和本地當前緩存中最新的投票信息進行比對,如果投票中的比較新,則進入這里
updateProposal(n.leader, n.zxid, n.peerEpoch);
sendNotifications();
}
LOG.debug(
"Adding vote: from={}, proposed leader={}, proposed zxid=0x{}, proposed election epoch=0x{}",
n.sid,
n.leader,
Long.toHexString(n.zxid),
Long.toHexString(n.electionEpoch));
//在選票map中存儲選票
recvset.put(n.sid, new Vote(n.leader, n.zxid, n.electionEpoch, n.peerEpoch));
//proposedLeader、proposedZxid、proposedEpoch三個參數,表示當前zk服務根據已經接收到的投票,確定出的本機投選的leader信息
//調用getVoteTracker方法,對本機投選的leader的選票進行統計
voteSet = getVoteTracker(recvset, new Vote(proposedLeader, proposedZxid, logicalclock.get(), proposedEpoch));
//本機投選的leader是否獲取了半數以上的票
if (voteSet.hasAllQuorums()) {
// 拉取投票接收隊列中的剩余選票
while ((n = recvqueue.poll(finalizeWait, TimeUnit.MILLISECONDS)) != null) {
//判斷選票是否更有效
if (totalOrderPredicate(n.leader, n.zxid, n.peerEpoch, proposedLeader, proposedZxid, proposedEpoch)) {
//如果有更有效的選票,則放回隊列
recvqueue.put(n);
break;
}
}
/**
* 沒有拉取到新的投票通知了,那么表示所有服務都不改票了
*/
if (n == null) {
//根據投票結果,設置當前節點的狀態,LEADING、 FOLLOWING或者OBSERVING
setPeerState(proposedLeader, voteSet);
//創建最終選舉結果的選票對象
Vote endVote = new Vote(proposedLeader, proposedZxid, logicalclock.get(), proposedEpoch);
//清空接收隊列
leaveInstance(endVote);
//返回最終選舉結果
return endVote;
}
}
break;
case OBSERVING:
LOG.debug("Notification from observer: {}", n.sid);
break;
case FOLLOWING:
//收到的投票通知中,投票來源的機器是FOLLOWING,說明在集群內部已經選出主節點了
//此時放棄自己的投票,查詢outofelection中的投票,直接確定leader
Vote resultFN = receivedFollowingNotification(recvset, outofelection, voteSet, n);
if (resultFN == null) {
break;
} else {
return resultFN;
}
case LEADING:
//收到的投票通知中,投票來源的機器是LEADING,說明在集群內部已經選出主節點了
//此時放棄自己的投票,查詢outofelection中的投票,直接確定leader
Vote resultLN = receivedLeadingNotification(recvset, outofelection, voteSet, n);
if (resultLN == null) {
break;
} else {
return resultLN;
}
default:
LOG.warn("Notification state unrecognized: {} (n.state), {}(n.sid)", n.state, n.sid);
break;
}
} else {
if (!validVoter(n.leader)) {
LOG.warn("Ignoring notification for non-cluster member sid {} from sid {}", n.leader, n.sid);
}
if (!validVoter(n.sid)) {
LOG.warn("Ignoring notification for sid {} from non-quorum member sid {}", n.leader, n.sid);
}
}
}
return null;
} finally {
try {
if (self.jmxLeaderElectionBean != null) {
MBeanRegistry.getInstance().unregister(self.jmxLeaderElectionBean);
}
} catch (Exception e) {
LOG.warn("Failed to unregister with JMX", e);
}
self.jmxLeaderElectionBean = null;
LOG.debug("Number of connection processing threads: {}", manager.getConnectionThreadCount());
}
}選LEADER主流程中,多次調用FastLeaderElection#totalOrderPredicate進行了投票有效性的比較,該邏輯是選主有效性抉擇的核心邏輯。優先比較leader選舉周期版本號epoch,相等時比較決議zxid,都相等時直接使用leader機器id大的。
/**
* 檢查接收到的投票通知,是否為有效投票
* @param newId 新投票中的leader節點id
* @param newZxid 新投票中的決議id
* @param newEpoch 新投票中的leader選舉周期版本號
* @param curId 當前本機投票中的leader節點id
* @param curZxid 當前本機投票中的決議id
* @param curEpoch 當前本機投票中的leader選舉周期版本號
* @return 新投票更有效時返回true,否則false
*/
protected boolean totalOrderPredicate(long newId, long newZxid, long newEpoch, long curId, long curZxid, long curEpoch) {
LOG.debug(
"id: {}, proposed id: {}, zxid: 0x{}, proposed zxid: 0x{}",
newId,
curId,
Long.toHexString(newZxid),
Long.toHexString(curZxid));
if (self.getQuorumVerifier().getWeight(newId) == 0) {
return false;
}
/*
*如果以下三種情況之一成立,則返回true:
*1-投票中的leader選舉周期版本號大于本地的
*2-leader選舉版本號相同,但投票中的決議號zxid更高
*3-leader選舉版本號和決議號zxid都相同,則比較zk機器本身的機器編號,判斷投票中的機器編號是否大于當前機器編號
*/
return ((newEpoch > curEpoch)
|| ((newEpoch == curEpoch)
&& ((newZxid > curZxid)
|| ((newZxid == curZxid)
&& (newId > curId)))));
}關于如何對FastLeaderElection進行源碼解析就分享到這里了,希望以上內容可以對大家有一定的幫助,可以學到更多知識。如果覺得文章不錯,可以把它分享出去讓更多的人看到。
免責聲明:本站發布的內容(圖片、視頻和文字)以原創、轉載和分享為主,文章觀點不代表本網站立場,如果涉及侵權請聯系站長郵箱:is@yisu.com進行舉報,并提供相關證據,一經查實,將立刻刪除涉嫌侵權內容。