首先告訴大家一件事，在十一國(guó)慶期間，引擎的機(jī)器又又。。。又扛不住了流量。

經(jīng)過監(jiān)控分析，發(fā)現(xiàn)某個(gè)服務(wù)的一個(gè)實(shí)例所在的虛擬機(jī)扛不住了，所以采取臨時(shí)措施流量控制之后，問題解決了，但還是造成了不小的損失。

經(jīng)過此次故障，以及分析故障的過程中對(duì)負(fù)載均衡又有了新的更加深入的認(rèn)識(shí)，所以將這部分寫出來(lái)，算是做個(gè)故障總結(jié)吧。

1寫在前面

寫本文的目的：

• 對(duì)負(fù)載均衡的理解零零散散，不成體系。

閱讀這篇文章需要的條件：

• 對(duì)OSI模型有些許了解
• 有耐心。本文涉及大量的知識(shí)點(diǎn)，且只能用文字才能講清楚，所以文字比較多。

收獲：

• 讀完此篇文章，從宏觀的角度理解了負(fù)載均衡的原理以及實(shí)現(xiàn)機(jī)制。加深對(duì)分布式架構(gòu)的了解

主要內(nèi)容：

• 本文首先從概念開始，講解什么是負(fù)載均衡，以及負(fù)載均衡在分布式系統(tǒng)中所承擔(dān)的角色以及提供的功能。
• 講解負(fù)載均衡的分類。分別從 軟硬件角度、地域范圍角度 以及 OSI模型角度 進(jìn)行分類講解負(fù)載均衡的實(shí)現(xiàn)方案。
• 從負(fù)載均衡的策略角度來(lái)分析目前業(yè)界的負(fù)載均衡算法以及其優(yōu)缺點(diǎn)

好了，準(zhǔn)備好了么，讓我們開始這次愉快之旅。

2引言

首先 撇開對(duì)線上的影響，如果線上突發(fā)來(lái)了流量,后端服務(wù)扛不住，我們會(huì)怎么做呢？無(wú)非兩種方式：

• 提升機(jī)器配置(CPU、內(nèi)存、硬盤、帶寬等)
• 加機(jī)器

上面兩種方式，我們稱之為縱向擴(kuò)展和橫向擴(kuò)展。

縱向擴(kuò)展，是從單機(jī)的角度通過增加硬件處理能力，比如CPU處理能力，內(nèi)存容量，磁盤等方面，實(shí)現(xiàn)服務(wù)器處理能力的提升，不能滿足大型分布式系統(tǒng)（網(wǎng)站），大流量，高并發(fā)，海量數(shù)據(jù)的問題。

橫向擴(kuò)展，通過添加機(jī)器來(lái)滿足大型網(wǎng)站服務(wù)的處理能力。比如：一臺(tái)機(jī)器不能滿足，則增加兩臺(tái)或者多臺(tái)機(jī)器，共同承擔(dān)訪問壓力。

3概念

負(fù)載均衡，英文名稱為L(zhǎng)oad Balance，其含義就是指將負(fù)載（工作任務(wù)或者網(wǎng)絡(luò)請(qǐng)求）進(jìn)行平衡，分?jǐn)偟蕉鄠€(gè)操作單元(服務(wù)器或者組件)上進(jìn)行運(yùn)行。目的是盡量將網(wǎng)絡(luò)流量 平均 發(fā)送到多個(gè)服務(wù)器上，以保證整個(gè)業(yè)務(wù)系統(tǒng)的高可用。

在互聯(lián)網(wǎng)的早期，網(wǎng)絡(luò)還不是很發(fā)達(dá)，流量相對(duì)較小，業(yè)務(wù)也比較簡(jiǎn)單，單臺(tái)服務(wù)器或者實(shí)例就有可能滿足訪問需要。但如今在互聯(lián)網(wǎng)發(fā)達(dá)的今天，流量請(qǐng)求動(dòng)輒百億、甚至上千億，單臺(tái)服務(wù)器或者實(shí)例已完全不能滿足需求，這就有了集群。不論是為了實(shí)現(xiàn)高可用還是高性能，都需要用到多臺(tái)機(jī)器來(lái)擴(kuò)展服務(wù)能力，用戶的請(qǐng)求不管連接到哪臺(tái)服務(wù)器，都能得到相同的相應(yīng)處理。

另一方面，如何構(gòu)建和調(diào)度服務(wù)集群這事情，又必須對(duì)用戶一側(cè)保持足夠的透明，即使請(qǐng)求背后是由一千臺(tái)、一萬(wàn)臺(tái)機(jī)器來(lái)共同響應(yīng)的，也絕非用戶所關(guān)心的事情，用戶需記住的只有一個(gè)域名地址而已。調(diào)度后方的多臺(tái)機(jī)器，以統(tǒng)一的接口對(duì)外提供服務(wù)，承擔(dān)此職責(zé)的技術(shù)組件被稱為 負(fù)載均衡。

負(fù)載均衡主要有以下作用：

• 高并發(fā)。通過采取一定的算法策略，將流量盡可能的均勻發(fā)送給后端的實(shí)例，以此提高集群的并發(fā)處理能力。

• 伸縮性。根據(jù)網(wǎng)絡(luò)流量的大小，增加或者減少后端服務(wù)器實(shí)例，由負(fù)載均衡設(shè)備進(jìn)行控制，這樣使得集群具有伸縮性。

• 高可用。負(fù)載均衡器通過算法或者其他性能數(shù)據(jù)來(lái)監(jiān)控候選實(shí)例，當(dāng)實(shí)例負(fù)載過高或者異常時(shí)，減少其流量請(qǐng)求或者直接跳過該實(shí)例，將請(qǐng)求發(fā)送個(gè)其他可用實(shí)例，這使得集群具有高可用的特性。

• 安全防護(hù)。有些負(fù)載均衡器提供了安全防護(hù)功能。如：黑白名單處理、防火墻等。

4分類

根據(jù)載體類型分類

從支持負(fù)載均衡的載體來(lái)看，可以將負(fù)載均衡分為兩類：

• 硬件負(fù)載均衡
• 軟件負(fù)載均衡

硬件負(fù)載均衡

硬件負(fù)載平衡器是一種硬件設(shè)備，具有專門的操作系統(tǒng)。硬件負(fù)載平衡器位于傳入流量和內(nèi)部服務(wù)器之間，本質(zhì)上充當(dāng)“流量警察”。當(dāng)用戶訪問網(wǎng)站或者使用app某個(gè)功能時(shí)，它們首先被發(fā)送到負(fù)載均衡器，然后負(fù)載均衡器根據(jù)一定的策略，將流量轉(zhuǎn)發(fā)到后端不同的服務(wù)器。為確保最佳性能，硬件負(fù)載均衡器根據(jù)自定義規(guī)則分配流量，以免后端實(shí)例不堪重負(fù)。

傳統(tǒng)上，硬件負(fù)載平衡器和應(yīng)用服務(wù)器部署在本地?cái)?shù)據(jù)中心，負(fù)載平衡器的數(shù)量取決于預(yù)期的峰值流量。負(fù)載均衡器通常成對(duì)部署，以防其中一個(gè)失敗。

目前業(yè)界領(lǐng)先的兩款硬件負(fù)載均衡器：F5和A10

優(yōu)點(diǎn)：

功能強(qiáng)大：支持全局負(fù)載均衡并提供較全面的、復(fù)雜的負(fù)載均衡算法。

性能強(qiáng)悍：硬件負(fù)載均衡由于是在專用處理器上運(yùn)行，因此吞吐量大，可支持單機(jī)百萬(wàn)以上的并發(fā)。

安全性高：往往具備防火墻，防 DDos 攻擊等安全功能。

缺點(diǎn)

成本昂貴：購(gòu)買和維護(hù)硬件負(fù)載均衡的成本都很高(：F5價(jià)格在15w~55w不等，A10價(jià)格在55w-100w不等)。

擴(kuò)展性差：當(dāng)訪問量突增時(shí)，超過限度不能動(dòng)態(tài)擴(kuò)容。

軟件負(fù)載均衡

軟件負(fù)載均衡指的是在服務(wù)器的操作系統(tǒng)上安裝負(fù)載均衡軟件，從此服務(wù)器發(fā)出的請(qǐng)求經(jīng)軟件負(fù)載均衡算法路由到后端集群的某一臺(tái)機(jī)器上。

常見負(fù)載均衡軟件有：LVS、Nginx、Haproxy。

優(yōu)點(diǎn)

擴(kuò)展性好：適應(yīng)動(dòng)態(tài)變化，可以通過添加軟件負(fù)載均衡實(shí)例，動(dòng)態(tài)擴(kuò)展到超出初始容量的能力。

成本低廉：軟件負(fù)載均衡可以在任何標(biāo)準(zhǔn)物理設(shè)備上運(yùn)行，降低了購(gòu)買和運(yùn)維的成本。

缺點(diǎn)

性能略差：相比于硬件負(fù)載均衡，軟件負(fù)載均衡的性能要略低一些。

軟硬件負(fù)載均衡器的區(qū)別

• 硬件負(fù)載平衡器與軟件負(fù)載平衡器之間最明顯的區(qū)別在于，硬件負(fù)載平衡器需要專有的機(jī)架堆疊硬件設(shè)備，而軟件負(fù)載平衡器只需安裝在標(biāo)準(zhǔn) x86 服務(wù)器或虛擬機(jī)上。網(wǎng)絡(luò)負(fù)載平衡器硬件通常是過度配置的——換句話說(shuō)，它們的大小能夠處理偶爾的高峰流量負(fù)載。此外，每個(gè)硬件設(shè)備都必須與一個(gè)額外的設(shè)備配對(duì)以獲得高可用性，以防其他負(fù)載均衡器出現(xiàn)故障。

• 硬件和軟件負(fù)載平衡器之間的另一個(gè)關(guān)鍵區(qū)別在于擴(kuò)展能力。隨著網(wǎng)絡(luò)流量的增長(zhǎng)，數(shù)據(jù)中心必須提供足夠的負(fù)載均衡器以滿足峰值需求。對(duì)于許多企業(yè)來(lái)說(shuō)，這意味著大多數(shù)負(fù)載均衡器在高峰流量時(shí)間（例如黑色星期五）之前一直處于空閑狀態(tài)。

• 如果流量意外超出容量，最終用戶體驗(yàn)會(huì)受到顯著影響。另一方面，軟件負(fù)載平衡器能夠彈性擴(kuò)展以滿足需求。無(wú)論網(wǎng)絡(luò)流量是低還是高，軟件負(fù)載平衡器都可以簡(jiǎn)單地實(shí)時(shí)自動(dòng)擴(kuò)展，消除過度配置成本和對(duì)意外流量激增的擔(dān)憂。

• 此外，硬件負(fù)載平衡器配置可能很復(fù)雜?；谲浖x原則構(gòu)建的軟件負(fù)載平衡器跨多個(gè)數(shù)據(jù)中心和混合/多云環(huán)境。事實(shí)上，硬件設(shè)備與云環(huán)境不兼容，而軟件負(fù)載均衡器與裸機(jī)、虛擬、容器和云平臺(tái)兼容。

根據(jù)地域范圍分類

負(fù)載均衡從其應(yīng)用的地理結(jié)構(gòu)上分為本地負(fù)載均衡(Local Load Balance)和全局負(fù)載均衡(Global Load Balance，也叫地域負(fù)載均衡)。

本地負(fù)載均衡

本地負(fù)載均衡是指對(duì)本地的服務(wù)器群做負(fù)載均衡。

本地負(fù)載均衡針對(duì)本地范圍的服務(wù)器群做負(fù)載均衡，本地負(fù)載均衡不需要花費(fèi)高額成本購(gòu)置高性能服務(wù)器，只需利用現(xiàn)有設(shè)備資源,就可有效避免服務(wù)器單點(diǎn)故障造成數(shù)據(jù)流量的損失，通常用來(lái)解決數(shù)據(jù)流量過大、網(wǎng)絡(luò)負(fù)荷過重的問題。同時(shí)它擁有形式多樣的均衡策略把數(shù)據(jù)流量合理均衡的分配到各臺(tái)服務(wù)器。如果需要在現(xiàn)在服務(wù)器上升級(jí)擴(kuò)充，不需改變現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)、停止現(xiàn)有服務(wù)，僅需要在服務(wù)群中簡(jiǎn)單地添加一臺(tái)新服務(wù)器。

本地負(fù)載均衡能有效地解決數(shù)據(jù)流量過大、網(wǎng)絡(luò)負(fù)荷過重的問題，并且不需花費(fèi)昂貴開支購(gòu)置性能卓越的服務(wù)器，充分利用現(xiàn)有設(shè)備，避免服務(wù)器單點(diǎn)故障造成數(shù)據(jù)流量的損失。

其有靈活多樣的均衡策略把數(shù)據(jù)流量合理地分配給服務(wù)器群內(nèi)的服務(wù)器共同負(fù)擔(dān)。即使是再給現(xiàn)有服務(wù)器擴(kuò)充升級(jí)，也只是簡(jiǎn)單地增加一個(gè)新的服務(wù)器到服務(wù)群中，而不需改變現(xiàn)有網(wǎng)絡(luò)結(jié)構(gòu)、停止現(xiàn)有的服務(wù)。

全局負(fù)載均衡

全局負(fù)載均衡是指對(duì)分別放置在不同的地理位置、有不同網(wǎng)絡(luò)結(jié)構(gòu)的服務(wù)器群間作負(fù)載均衡。

全局負(fù)載均衡主要用于在一個(gè)多區(qū)域擁有自己服務(wù)器的站點(diǎn)，為了使全球用戶只以一個(gè)IP地址或域名就能訪問到離自己最近的服務(wù)器，從而獲得最快的訪問速度，也可用于子公司分散站點(diǎn)分布廣的大公司通過Intranet(企業(yè)內(nèi)部互聯(lián)網(wǎng))來(lái)達(dá)到資源統(tǒng)一合理分配的目的。

全局負(fù)載均衡，目前實(shí)現(xiàn)方式有以下幾種：

• 通過運(yùn)營(yíng)商線路調(diào)度：這個(gè)主要是指國(guó)內(nèi)，由于特殊原因國(guó)內(nèi)不同運(yùn)營(yíng)商互聯(lián)互通存在很大問題，比如聯(lián)通用戶訪問電信機(jī)房服務(wù)器延遲很大，甚至有可能無(wú)法訪問的情況。假如您的業(yè)務(wù)部署在不同運(yùn)營(yíng)商機(jī)房，可以通過運(yùn)營(yíng)商線路解析來(lái)實(shí)現(xiàn)調(diào)度，聯(lián)通線路用戶域名解析到聯(lián)通機(jī)房IP，電信線路用戶域名解析電信機(jī)房IP，這樣保證不同用戶訪問最佳的服務(wù)器。

• 通過地域線路調(diào)度：

• 我們都知道，網(wǎng)站服務(wù)器越近，訪問速度越快，比如天津用戶訪問北京服務(wù)器會(huì)比廣州服務(wù)器快很多。假如您的業(yè)務(wù)部署在華北，華南兩個(gè)Region，可以通過地域線路解析，設(shè)置華北，東北，西北，華中用戶訪問域名解析到北京服務(wù)器IP，華東，華南，西南用戶訪問域名解析到廣州服務(wù)器IP，這樣用戶訪問離自己最近的服務(wù)器可以提升訪問體驗(yàn)。
• 假如您的業(yè)務(wù)是面向全球的，國(guó)內(nèi)部署有業(yè)務(wù)，海外也部署有業(yè)務(wù)，可以選擇中國(guó)用戶訪問域名解析到國(guó)內(nèi)服務(wù)器，海外用戶訪問域名解析到海外服務(wù)器。當(dāng)然海外的還可以細(xì)分，比如選擇亞太--新加坡的用戶等，可以具體到洲，國(guó)家。
• 權(quán)重輪詢：比如一個(gè)域名解析到多個(gè)IP，可以根據(jù)不同IP服務(wù)器的配置，業(yè)務(wù)情況設(shè)置解析比重，比如2:1或者1:1等等。

• 健康檢查，故障轉(zhuǎn)移：可以創(chuàng)建監(jiān)控任務(wù)實(shí)時(shí)監(jiān)控后端服務(wù)器IP的健康狀態(tài)，如果發(fā)現(xiàn)后端服務(wù)器異常，可以把解析流量切換到其他正常的服務(wù)器或者備用服務(wù)器，保證業(yè)務(wù)不會(huì)中斷。

CDN的全稱是Content Delivery Network，即內(nèi)容分發(fā)網(wǎng)絡(luò)。其就是采用的全局負(fù)載均衡。假如我們將圖片存儲(chǔ)在CDN上，且該CDN所在廠家在北京、杭州均有服務(wù)器。那么：

• 當(dāng)天津的用戶需要下載該圖片的時(shí)候，會(huì)自動(dòng)將流量請(qǐng)求轉(zhuǎn)發(fā)至距離其最近的CDN服務(wù)器，也就是北京
• 當(dāng)安徽的用戶需要下載圖片的時(shí)候，就會(huì)將流量請(qǐng)求轉(zhuǎn)發(fā)至杭州。

根據(jù)OSI網(wǎng)絡(luò)模型分類

OSI是一個(gè)開放性的通信系統(tǒng)互連參考模型，如上圖所示。在OSI參考模型中，分別有：

• 應(yīng)用層
• 表示層
• 會(huì)話層
• 傳輸層
• 網(wǎng)絡(luò)層
• 數(shù)據(jù)鏈路層
• 物理層

從上圖可以看出：

TELNET、HTTP、FTP、NFS、SMTP、DNS等屬于第七層應(yīng)用層的概念。

TCP、UDP、SPX等屬于第四層傳輸層的概念。

IP、IPX等屬于第三層網(wǎng)絡(luò)層的概念。

ATM、FDDI等屬于第二層數(shù)據(jù)鏈路層的概念。

根據(jù)負(fù)載均衡技術(shù)實(shí)現(xiàn)在OSI七層模型的不同層次，我們給負(fù)載均衡分類：

• 七層負(fù)載均衡：工作在應(yīng)用層的負(fù)載均衡稱
• 四層負(fù)載均衡：工作在傳輸層的負(fù)載均衡稱
• 三層負(fù)載均衡：工作在網(wǎng)絡(luò)層的負(fù)載均衡，
• 二層負(fù)載均衡：工作在數(shù)據(jù)鏈路層的負(fù)載均衡。

其中最常用的是四層和七層負(fù)載均衡。

下面我們將從OSI模型從下往上的順序，來(lái)詳細(xì)講解上述幾種負(fù)載均衡。

二層負(fù)載均衡

工作在數(shù)據(jù)鏈路層的負(fù)載均衡稱之為二層負(fù)載均衡(又稱為數(shù)據(jù)鏈路層負(fù)載均衡)，通過在通信協(xié)議的數(shù)據(jù)鏈路層修改mac地址進(jìn)行負(fù)載均衡。

二層負(fù)載均衡是基于數(shù)據(jù)鏈路層的負(fù)載均衡，即讓負(fù)載均衡服務(wù)器和業(yè)務(wù)服務(wù)器綁定同一個(gè)虛擬IP（即VIP），客戶端直接通過這個(gè)VIP進(jìn)行請(qǐng)求集群。集群中不同的機(jī)器采用相同IP地址，但是機(jī)器的MAC地址不一樣。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，通過改寫報(bào)文的目標(biāo)MAC地址的方式將請(qǐng)求轉(zhuǎn)發(fā)到目標(biāo)機(jī)器實(shí)現(xiàn)負(fù)載均衡。

數(shù)據(jù)鏈路層負(fù)載均衡所做的工作，是修改請(qǐng)求的數(shù)據(jù)幀中的 MAC 目標(biāo)地址，讓用戶原本是發(fā)送給負(fù)載均衡器的請(qǐng)求的數(shù)據(jù)幀，被二層交換機(jī)根據(jù)新的 MAC 目標(biāo)地址轉(zhuǎn)發(fā)到服務(wù)器集群中對(duì)應(yīng)的服務(wù)器（真實(shí)服務(wù)器）的網(wǎng)卡上，這樣真實(shí)服務(wù)器就獲得了一個(gè)原本目標(biāo)并不是發(fā)送給它的數(shù)據(jù)幀。

為了便于理解，我們假設(shè)負(fù)載均衡器所在的ip地址為192.168.1.1，后端服務(wù)實(shí)例的mac地址分別為52:54:00:A1:CB:F7，61:52:00:A2:BD, 71:63:52:A3:CA。如下圖所示：

在上圖中，用戶的請(qǐng)求首先到達(dá)ip為192.168.1.1的二層負(fù)載均衡器，然后二層負(fù)載均衡器通過采取一定的策略，選中了mac地址為71:63:52:A3:CA，然后將流量轉(zhuǎn)發(fā)至該服務(wù)實(shí)例。

需要注意的是,上述只有請(qǐng)求經(jīng)過負(fù)載均衡器，而服務(wù)的響應(yīng)無(wú)須從負(fù)載均衡器原路返回的工作模式，整個(gè)請(qǐng)求、轉(zhuǎn)發(fā)、響應(yīng)的鏈路形成一個(gè)“三角關(guān)系”，所以這種負(fù)載均衡模式也常被很形象地稱為“三角傳輸模式”，也有叫“單臂模式”或者“直接路由”。

二層負(fù)載均衡器直接改寫目標(biāo) MAC 地址的工作原理決定了它與真實(shí)的服務(wù)器的通信必須是二層可達(dá)的，通俗地說(shuō)就是必須位于同一個(gè)子網(wǎng)當(dāng)中，無(wú)法跨 VLAN。優(yōu)勢(shì)（效率高）和劣勢(shì)（不能跨子網(wǎng)）共同決定了數(shù)據(jù)鏈路層負(fù)載均衡最適合用來(lái)做數(shù)據(jù)中心的第一級(jí)均衡設(shè)備，用來(lái)連接其他的下級(jí)負(fù)載均衡器。

三層負(fù)載均衡

三層負(fù)載均衡是基于網(wǎng)絡(luò)層的負(fù)載均衡，因此又叫網(wǎng)絡(luò)層負(fù)載均衡。通俗的說(shuō)就是按照不同機(jī)器不同IP地址進(jìn)行轉(zhuǎn)發(fā)請(qǐng)求到不同的機(jī)器上。

根據(jù) OSI 七層模型，在第三層網(wǎng)絡(luò)層傳輸?shù)膯挝皇欠纸M數(shù)據(jù)包，這是一種在分組交換網(wǎng)絡(luò)中傳輸?shù)慕Y(jié)構(gòu)化數(shù)據(jù)單位。以IP協(xié)議為例，一個(gè)IP 數(shù)據(jù)包由 Headers 和 Payload 兩部分組成， Headers 長(zhǎng)度最大為60Bytes，其中包括了20Bytes的固定數(shù)據(jù)和最長(zhǎng)不超過40Bytes 的可選的額外設(shè)置組成。

三層負(fù)載均衡服務(wù)器對(duì)外依然提供一個(gè)VIP（虛IP），但是集群中不同的機(jī)器采用不同的IP地址。當(dāng)負(fù)載均衡服務(wù)器接受到請(qǐng)求之后，根據(jù)不同的負(fù)載均衡算法，通過IP將請(qǐng)求轉(zhuǎn)發(fā)至不同的真實(shí)服務(wù)器。

學(xué)過計(jì)算機(jī)網(wǎng)絡(luò)的都知道，在IP分組的數(shù)據(jù)報(bào)header中有 源IP 和 目標(biāo)IP。源IP和目標(biāo)IP代表分組交換中數(shù)據(jù)是從哪臺(tái)機(jī)器到哪臺(tái)機(jī)器的，那么，我們可以采用跟修改二層負(fù)載均衡中MAC地址的方式一樣，直接修改目標(biāo)IP，以達(dá)到數(shù)據(jù)轉(zhuǎn)發(fā)的目的。

修改目標(biāo)IP的方式有兩種：1、原有的數(shù)據(jù)包保持不變，生成一個(gè)新的數(shù)據(jù)包，原數(shù)據(jù)包的Header和Payload作為新數(shù)據(jù)包的Payload，在這個(gè)新數(shù)據(jù)包的 Headers 中寫入真實(shí)服務(wù)器的 IP 作為目標(biāo)地址，然后把它發(fā)送出去。

真實(shí)服務(wù)器收到數(shù)據(jù)包后，必須在接收入口處設(shè)計(jì)一個(gè)針對(duì)性的拆包機(jī)制，把由負(fù)載均衡器自動(dòng)添加的那層 Headers 扔掉，還原出原來(lái)的數(shù)據(jù)包來(lái)進(jìn)行使用。這樣，真實(shí)服務(wù)器就同樣拿到了一個(gè)原本不是發(fā)給它（目標(biāo) IP 不是它）的數(shù)據(jù)包，達(dá)到了流量轉(zhuǎn)發(fā)的目的。這種數(shù)據(jù)傳輸方式叫做 IP隧道 傳輸。

盡管因?yàn)橐庋b新的數(shù)據(jù)包，IP 隧道的轉(zhuǎn)發(fā)模式比起直接路由模式效率會(huì)有所下降，但由于并沒有修改原有數(shù)據(jù)包中的任何信息，所以 IP 隧道的轉(zhuǎn)發(fā)模式仍然具備三角傳輸?shù)奶匦裕簇?fù)載均衡器轉(zhuǎn)發(fā)來(lái)的請(qǐng)求，可以由真實(shí)服務(wù)器去直接應(yīng)答，無(wú)須在經(jīng)過均衡器原路返回。而且由于 IP 隧道工作在網(wǎng)絡(luò)層，所以可以跨越 VLAN，因此擺脫了直接路由模式中網(wǎng)絡(luò)側(cè)的約束。

此模式從請(qǐng)求到響應(yīng)如下圖所示：

優(yōu)點(diǎn)：

• 可以跨越 VLAN 缺點(diǎn)：
• 要求真實(shí)服務(wù)器必須支持IP隧道協(xié)議，也就是說(shuō)服務(wù)器需要自己會(huì)拆包
• 必須通過專門的配置，必須保證所有的真實(shí)服務(wù)器與均衡器有著相同的虛擬 IP 地址，因?yàn)榛貜?fù)該數(shù)據(jù)包時(shí)，需要使用這個(gè)虛擬 IP 作為響應(yīng)數(shù)據(jù)包的源地址，這樣客戶端收到這個(gè)數(shù)據(jù)包時(shí)才能正確解析。

基于以上原因，就有了第二種修改方式。2、改變目標(biāo)數(shù)據(jù)包。

直接把數(shù)據(jù)包 Headers 中的目標(biāo)地址改為真實(shí)服務(wù)器地址，修改后原本由用戶發(fā)給均衡器的數(shù)據(jù)包，也會(huì)被三層交換機(jī)轉(zhuǎn)發(fā)送到真實(shí)服務(wù)器的網(wǎng)卡上，而且因?yàn)闆]有經(jīng)過 IP 隧道的額外包裝，也就無(wú)須再拆包了。

因?yàn)檫@種模式是通過修改目標(biāo) IP 地址才到達(dá)真實(shí)服務(wù)器的，如果真實(shí)服務(wù)器直接將應(yīng)答包返回客戶端的話，這個(gè)應(yīng)答數(shù)據(jù)包的源 IP 是真實(shí)服務(wù)器的 IP，也即均衡器修改以后的 IP 地址，客戶端不可能認(rèn)識(shí)該 IP，自然就無(wú)法再正常處理這個(gè)應(yīng)答了。因此，只能讓應(yīng)答流量繼續(xù)回到負(fù)載均衡，由負(fù)載均衡把應(yīng)答包的源 IP 改回自己的 IP，再發(fā)給客戶端，這樣才能保證客戶端與真實(shí)服務(wù)器之間的正常通信。

這種修改目標(biāo)IP的方式叫NAT模式，這種通過修改目標(biāo)IP的方式達(dá)到負(fù)載均衡目的的方式叫做NAT負(fù)載均衡。如下圖所示：

四層負(fù)載均衡

所謂四層負(fù)載均衡，也就是主要通過報(bào)文中的目標(biāo)地址和端口，再加上負(fù)載均衡設(shè)備設(shè)置的服務(wù)器選擇方式，決定最終選擇的內(nèi)部服務(wù)器。

由于四層負(fù)載均衡是作用在傳輸層，因此，我們就以常見的TCP進(jìn)行舉例。

負(fù)載均衡設(shè)備在接收到第一個(gè)來(lái)自客戶端的SYN 請(qǐng)求時(shí)，即通過上述方式選擇一個(gè)最佳的服務(wù)器，并對(duì)報(bào)文中目標(biāo)IP地址進(jìn)行修改(改為后端服務(wù)器IP），直接轉(zhuǎn)發(fā)給該服務(wù)器。TCP的連接建立，即三次握手是客戶端和服務(wù)器直接建立的，負(fù)載均衡設(shè)備只是起到一個(gè)類似路由器的轉(zhuǎn)發(fā)動(dòng)作。在某些部署情況下，為保證服務(wù)器回包可以正確返回給負(fù)載均衡設(shè)備，在轉(zhuǎn)發(fā)報(bào)文的同時(shí)可能還會(huì)對(duì)報(bào)文原來(lái)的源地址進(jìn)行修改。

四層負(fù)載均衡主要是基于tcp協(xié)議報(bào)文，可以做任何基于tcp/ip協(xié)議的軟件的負(fù)載均衡，比如Haproxy、LVS等。

七層負(fù)載均衡

所謂七層負(fù)載均衡，也稱為“內(nèi)容交換”，也就是主要通過報(bào)文中的真正有意義的應(yīng)用層內(nèi)容，再加上負(fù)載均衡設(shè)備設(shè)置的服務(wù)器選擇方式，決定最終選擇的內(nèi)部服務(wù)器。

應(yīng)用層協(xié)議較多，常用http、radius、dns等。七層負(fù)載就可以基于這些協(xié)議來(lái)負(fù)載。

我們?nèi)匀灰訲CP為例。負(fù)載均衡設(shè)備如果要根據(jù)真正的應(yīng)用層內(nèi)容再選擇服務(wù)器，只能先代理最終的服務(wù)器和客戶端建立連接(三次握手)后，才可能接受到客戶端發(fā)送的真正應(yīng)用層內(nèi)容的報(bào)文，然后再根據(jù)該報(bào)文中的特定字段，再加上負(fù)載均衡設(shè)備設(shè)置的服務(wù)器選擇方式，決定最終選擇的內(nèi)部服務(wù)器。負(fù)載均衡設(shè)備在這種情況下，更類似于一個(gè)代理服務(wù)器。負(fù)載均衡和前端的客戶端以及后端的服務(wù)器會(huì)分別建立TCP連接。所以從這個(gè)技術(shù)原理上來(lái)看，七層負(fù)載均衡明顯的對(duì)負(fù)載均衡設(shè)備的要求更高，處理七層的能力也必然會(huì)低于四層模式的部署方式。

七層負(fù)載均衡器會(huì)與客戶端 以及 后端的服務(wù)實(shí)例分別建立連接

七層負(fù)載均衡基本都是基于http協(xié)議的，適用于web服務(wù)器的負(fù)載均衡，比如Nginx等。

對(duì)比(四層和七層)

• 智能性

• 七層負(fù)載均衡由于具備OIS七層的所有功能，所以在處理用戶需求上能更加靈活，從理論上講，七層模型能對(duì)用戶的所有跟服務(wù)端的請(qǐng)求進(jìn)行修改。例如對(duì)文件header添加信息，根據(jù)不同的文件類型進(jìn)行分類轉(zhuǎn)發(fā)。
• 四層模型僅支持基于網(wǎng)絡(luò)層的需求轉(zhuǎn)發(fā)，不能修改用戶請(qǐng)求的內(nèi)容。
• 安全性

• 七層負(fù)載均衡由于具有OSI模型的全部功能，能更容易抵御來(lái)自網(wǎng)絡(luò)的攻擊
• 四層模型從原理上講，會(huì)直接將用戶的請(qǐng)求轉(zhuǎn)發(fā)給后端節(jié)點(diǎn)，無(wú)法直接抵御網(wǎng)絡(luò)攻擊。
• 復(fù)雜度

• 四層模型一般比較簡(jiǎn)單的架構(gòu)，容易管理，容易定位問題
• 七層模型架構(gòu)比較復(fù)雜，通常也需要考慮結(jié)合四層模型的混用情況，出現(xiàn)問題定位比較復(fù)雜。
• 效率比

• 四層模型基于更底層的設(shè)置，通常效率更高，但應(yīng)用范圍有限
• 七層模型需要更多的資源損耗，在理論上講比四層模型有更強(qiáng)的功能，現(xiàn)在的實(shí)現(xiàn)更多是基于http應(yīng)用。

6算法與實(shí)現(xiàn)

常用的負(fù)載均衡算法分為以下兩類：

• 靜態(tài)負(fù)載均衡
• 動(dòng)態(tài)負(fù)載均衡

常見的靜態(tài)均衡算法：輪詢法、隨機(jī)法、源地址哈希法、一致性哈希法、加權(quán)輪詢法、加權(quán)隨機(jī)法。

常見的動(dòng)態(tài)負(fù)載均衡算法：最小連接數(shù)法、最快響應(yīng)速度法。

隨機(jī)法(Random)

將請(qǐng)求隨機(jī)分配到各個(gè)節(jié)點(diǎn)。由概率統(tǒng)計(jì)理論得知，隨著客戶端調(diào)用服務(wù)端的次數(shù)增多，其實(shí)際效果越來(lái)越接近于平均分配，也就是輪詢的結(jié)果。

隨機(jī)策略會(huì)導(dǎo)致配置較低的機(jī)器Down機(jī)，從而可能引起雪崩，一般采用隨機(jī)算法時(shí)建議后端集群機(jī)器配置最好同等的，隨機(jī)策略的性能取決于隨機(jī)算法的性能。

• 優(yōu)點(diǎn)：簡(jiǎn)單高效，易于水平擴(kuò)展，每個(gè)節(jié)點(diǎn)滿足字面意義上的均衡；
• 缺點(diǎn)：沒有考慮機(jī)器的性能問題，根據(jù)木桶最短木板理論，集群性能瓶頸更多的會(huì)受性能差的服務(wù)器影響。

實(shí)現(xiàn)：

std::string?Select(const?std::vector?