這是我的第 47 篇原創(chuàng)文章
     

    
    

     作者 l 會(huì)點(diǎn)代碼的大叔（CodeDaShu）
    
    

     
上一個(gè)章節(jié)，我們搭建了一個(gè)最簡(jiǎn)單的單體服務(wù)項(xiàng)目，單體架構(gòu)就是把所有的功能都放在一個(gè)工程項(xiàng)目中。
但是當(dāng)訪問(wèn)量不斷增加，我們只部署一套環(huán)境就有些吃不消了，這時(shí)候有什么解決方案么？

     
如果我們?nèi)ヒ粋€(gè)超市購(gòu)物，當(dāng)客戶數(shù)量不多的時(shí)候，超市只開(kāi)通一個(gè)結(jié)賬通道就可以滿足需要，但是當(dāng)客戶數(shù)量增加，只有一個(gè)結(jié)賬通道的話，會(huì)造成客戶等待時(shí)間過(guò)長(zhǎng)，最簡(jiǎn)單的解決方法就是多開(kāi)幾個(gè)結(jié)賬通道。
     
在軟件架構(gòu)中也會(huì)有相似的問(wèn)題：
     
如果項(xiàng)目的用戶量少、訪問(wèn)量不大、數(shù)據(jù)量也不多的時(shí)候，一臺(tái)服務(wù)器足以支撐，那么直接項(xiàng)目部署一套，直接訪問(wèn)使用就可以了，但是當(dāng)用戶和數(shù)據(jù)量不斷增多，訪問(wèn)量（并發(fā)量）不斷增加，一臺(tái)服務(wù)器不在能夠支撐業(yè)務(wù)的時(shí)候，就需要使用多臺(tái)機(jī)器，設(shè)計(jì)高性能的集群來(lái)應(yīng)對(duì)。
     
那么當(dāng)我部署了多臺(tái)服務(wù)器（這里假如是兩臺(tái)），那么調(diào)用方是如何訪問(wèn)的呢？服務(wù)方如何均衡訪問(wèn)的流量呢？這時(shí)候就需要引出負(fù)載均衡了。
     
負(fù)載均衡就是通過(guò)一定的策略，把用戶的訪問(wèn)量均勻地轉(zhuǎn)發(fā)給后端的服務(wù)器；負(fù)載均衡可以提高系統(tǒng)的服務(wù)能力和高可用性。
     
1. 負(fù)載均衡分類
     
1.1 按照類型分類
     
1. DNS 負(fù)載均衡
     
大概的原理是，當(dāng)用戶訪問(wèn)域名的時(shí)候，需要先通過(guò) DNS 解析域名，找到對(duì)應(yīng)的 IP 地址，在這個(gè)過(guò)程中，可以讓 DNS 服務(wù)器，根據(jù)用戶的地理位置，返回不同的 IP，這樣就可以實(shí)現(xiàn)負(fù)載均衡，同時(shí)也可以提升用戶的訪問(wèn)速度。
     

      
      
     
     
2. 軟件負(fù)載均衡
     
用軟件來(lái)實(shí)現(xiàn)流量的分發(fā)，有基于傳輸層實(shí)現(xiàn)的負(fù)載均衡，比如 LVS，也有基于應(yīng)用層來(lái)實(shí)現(xiàn)的，比如 Nginx；軟件負(fù)載均衡實(shí)現(xiàn)起來(lái)很簡(jiǎn)單，只需要在服務(wù)器上部署并進(jìn)行配置就可以實(shí)現(xiàn)；
     
3. 硬件負(fù)載均衡
     
用硬件來(lái)實(shí)現(xiàn)負(fù)載均衡，比如F5（F5 Network Big-IP），這是一臺(tái)網(wǎng)絡(luò)設(shè)備，性能很高，同時(shí)價(jià)格非常的貴。
     

      
      
     
     
1.2 按照誰(shuí)來(lái)負(fù)載進(jìn)行分類
     
1. 服務(wù)端負(fù)載均衡
     
調(diào)用方只訪問(wèn)負(fù)載均衡的IP，不需要管后面有多少臺(tái)服務(wù)器。
     
服務(wù)端負(fù)載均衡有點(diǎn)兒像我們打客服電話，很多人可以同時(shí)撥打同一個(gè)客服電話號(hào)碼，我們不關(guān)心實(shí)際上有多少個(gè)客服，也不關(guān)心是哪個(gè)客服人員接聽(tīng)電話。
     

      
      
     
     
2. 客戶端負(fù)載均衡
     
服務(wù)端部署多臺(tái)服務(wù)器，客戶端知道每臺(tái)服務(wù)器的地址，并通過(guò)一定的路由規(guī)則，均衡地訪問(wèn)，比如 Spring Cloud Ribbon，當(dāng)然客戶端的負(fù)載均衡，通常是需要服務(wù)注冊(cè)發(fā)現(xiàn)的配合。
     
客戶端負(fù)載均衡更像是去超市購(gòu)物結(jié)賬，我們可以看到有幾個(gè)結(jié)賬柜臺(tái)，我們可以自己選擇在哪個(gè)柜臺(tái)結(jié)賬。
     
我們會(huì)在后面的章節(jié)中，詳細(xì)介紹 Spring Cloud 中的客戶端負(fù)載均衡組件 Ribbon 。
     

      
      
     
     
1.3 按照網(wǎng)絡(luò)模型分類
     
最常用的網(wǎng)絡(luò)模型 OSI 模型共有 7 層結(jié)構(gòu)：
     

      
      
     
     
1. 二層負(fù)載均衡
     
基于數(shù)據(jù)鏈路層的負(fù)載均衡；讓負(fù)載均衡服務(wù)器和應(yīng)用服務(wù)器綁定同一個(gè)虛擬 IP，客戶端通過(guò)這個(gè)虛擬 IP 進(jìn)行請(qǐng)求，負(fù)載均衡服務(wù)器接受到請(qǐng)求后，再根據(jù) MAC 地址進(jìn)行分配轉(zhuǎn)發(fā)。
     
2. 三層負(fù)載均衡
     
基于網(wǎng)絡(luò)層的負(fù)載均衡；也是采用虛擬 IP 的方式，不過(guò)負(fù)載均衡服務(wù)器在接收到到請(qǐng)求后，按照實(shí)際 IP 進(jìn)行分配轉(zhuǎn)發(fā)。
     
3. 四層負(fù)載均衡
     
基于 IP + port 的負(fù)載均衡；用 IP + port 接受請(qǐng)求，再轉(zhuǎn)發(fā)到后臺(tái)的應(yīng)用服務(wù)器上。
     
比如 TCP 應(yīng)用實(shí)例，負(fù)載均衡服務(wù)器在接受到第一個(gè) SNY 請(qǐng)求時(shí)（建立連接請(qǐng)求），會(huì)通過(guò)負(fù)載均衡算法找到服務(wù)器 A，然后將報(bào)文中的目標(biāo) IP 修改成服務(wù)器 A 的 IP，然后轉(zhuǎn)發(fā)給服務(wù)器 A；
     
這就好像我們?nèi)ャy行辦理業(yè)務(wù)，先領(lǐng)一個(gè)號(hào)之后（建立連接請(qǐng)求），銀行的叫號(hào)系統(tǒng)會(huì)通知你：“請(qǐng) 101 號(hào)到 3 號(hào)窗口辦理業(yè)務(wù)”（轉(zhuǎn)發(fā)你的請(qǐng)求給 3 號(hào)服務(wù)器），真正辦理業(yè)務(wù)的是 3 號(hào)窗口的小姐姐。
     
在這個(gè)過(guò)程中，負(fù)載均衡服務(wù)器相當(dāng)于一個(gè)路由器。
     

      
      
     
     
4. 七層負(fù)載均衡
     
基于虛擬 URL 或主機(jī) IP 的負(fù)載均衡；七層就是應(yīng)用層，支持多種應(yīng)用協(xié)議，比如 HTTP、FTP 等等，七層負(fù)載均衡服務(wù)器可以根據(jù)請(qǐng)求報(bào)文中的真正有意義的內(nèi)容，加上負(fù)載均衡算法，來(lái)選擇轉(zhuǎn)發(fā)到哪個(gè)應(yīng)用服務(wù)器；因此七層負(fù)載均衡服務(wù)器也被稱為“內(nèi)容交換機(jī)”；
     
比如七層負(fù)載均衡服務(wù)器，將圖片類的請(qǐng)求轉(zhuǎn)發(fā)到圖片服務(wù)器，將文字內(nèi)容類的請(qǐng)求轉(zhuǎn)發(fā)到應(yīng)用服務(wù)器；
     
這就好像我們?nèi)ャy行辦理業(yè)務(wù)，在領(lǐng)號(hào)的時(shí)候，大廳經(jīng)理看看你的銀行卡，普通卡給一個(gè) B101，金卡給一個(gè) A101，如果是理財(cái)業(yè)務(wù)，那么就領(lǐng)你去理財(cái)窗口，這就相當(dāng)于根據(jù)你的具體業(yè)務(wù)或銀行卡類型（報(bào)文），講請(qǐng)求轉(zhuǎn)發(fā)到不同的服務(wù)器。
     
在這個(gè)過(guò)程中，負(fù)載均衡服務(wù)器相當(dāng)于一個(gè)代理服務(wù)器。
     

      
      
     
     
2. 常用負(fù)載均衡工具
     
2.1. LVS
     
四層負(fù)載均衡；LVS 是使用Linux內(nèi)核集群實(shí)現(xiàn)一個(gè)高性能、高可用的負(fù)載均衡服務(wù)器；性能比較強(qiáng)，有完整的雙機(jī)熱備方案，如 LVS + Keepalived；因?yàn)樗膶迂?fù)載均衡只分發(fā)請(qǐng)求，所以 LVS 的 IO 性能不會(huì)受到流量影響。
     
2.2 Nginx
     
七層負(fù)載均衡；因?yàn)槭瞧邔?，所以可以針?duì) HTTP 做一些分流策略，Nginx 的正則規(guī)則更加強(qiáng)大和靈活；Nginx 的安裝、配置和測(cè)試都比較簡(jiǎn)單；可以承擔(dān)高負(fù)載壓力，不過(guò)會(huì)比 LVS 稍差；Nginx 還可以檢測(cè)后端應(yīng)用服務(wù)器的運(yùn)行情況，可以根據(jù)處理請(qǐng)求的狀態(tài)碼或超時(shí)，把錯(cuò)誤的請(qǐng)求提交到另外的服務(wù)節(jié)點(diǎn)；
     
Nginx 支持 HTTP, HTTPS, SMTP, POP3, IMAP 等協(xié)議，在較高的版本中開(kāi)始支持 TCP 協(xié)議。
     
2.3 HAProxy
     
七層負(fù)載均衡；單純從性能上看，HAProxy 比 Nginx 有更出色的速度，在并發(fā)處理上也是優(yōu)于 Nginx 的；HAProxy 支持 TCP 協(xié)議，比如可以對(duì) MySQL 的讀操作進(jìn)行負(fù)載均衡。
     
3. 常見(jiàn)的負(fù)載均衡調(diào)度算法
     
3.1 輪詢法
     
輪詢法就是按照順序把請(qǐng)求輪流分配到每臺(tái)服務(wù)器上；
     
輪訓(xùn)法簡(jiǎn)單高效，易于水平擴(kuò)展，不過(guò)因?yàn)橹磺笃骄?，不關(guān)心每臺(tái)服務(wù)實(shí)際的負(fù)載；所以如果某一臺(tái)服務(wù)器性能不好，極有可能產(chǎn)生木桶效應(yīng)。
     

      
      
     
     
3.2 隨機(jī)法
     
隨機(jī)分配請(qǐng)求到每臺(tái)服務(wù)器上，如果請(qǐng)求數(shù)量足夠多，從概率學(xué)角度看，實(shí)際效果會(huì)接近平均分配。
     
3.3 隨機(jī)輪詢法
     
隨機(jī)法和輪詢法相結(jié)合，隨機(jī)找到一個(gè)服務(wù)器作為起點(diǎn)，然后開(kāi)始輪詢發(fā)送請(qǐng)求。(隨機(jī)只體現(xiàn)在尋找第一個(gè)服務(wù)器的時(shí)候，剩余的工作和輪訓(xùn)法一樣)
     
3.4 源地址哈希法
     
對(duì)客戶端的 IP 地址進(jìn)行哈希運(yùn)算得到一個(gè)值 X，服務(wù)器數(shù)量為 N，通過(guò) X % N 的結(jié)果，決定訪問(wèn)哪臺(tái)服務(wù)器。
     
地址哈希法可以讓相同的 IP 每次都落在同一臺(tái)服務(wù)器上，這樣不需要考慮 Session 共享的問(wèn)題，但是可能會(huì)導(dǎo)致流量的分布不均勻，并且當(dāng)某一臺(tái)服務(wù)器出現(xiàn)故障，會(huì)導(dǎo)致這個(gè)服務(wù)器上的客戶端無(wú)法使用，無(wú)法保證集群的高可用。
     

      
      
     
     
3.5 加權(quán)輪詢法
     
加權(quán)輪詢法是對(duì)輪詢法的一個(gè)改進(jìn)，因?yàn)槊颗_(tái)服務(wù)器的配置不一樣，所以它們的抗壓能力也不一樣，配置高的機(jī)器可以分配更高的權(quán)重，這樣就可以處理更多的請(qǐng)求；
     
加權(quán)輪詢法將機(jī)器的性能也納入考量范圍，集群性能可以發(fā)揮到最大。
     

      
      
     
     
3.6 加權(quán)隨機(jī)法
     
和加權(quán)輪詢法類似；這里就不再贅述了。
     
3.7 最小連接數(shù)法
     
根據(jù)每個(gè)服務(wù)器節(jié)點(diǎn)的連接數(shù)，動(dòng)態(tài)地選擇當(dāng)前連接數(shù)最少的服務(wù)器轉(zhuǎn)發(fā)請(qǐng)求；
     
最小連接數(shù)法根據(jù)實(shí)時(shí)狀態(tài)變化進(jìn)行調(diào)整，最大限度地利用每一臺(tái)機(jī)器的資源，提高集群整體的可用性；不過(guò)復(fù)雜度也高，需要計(jì)算每臺(tái)服務(wù)器的連接數(shù)量。
     
3.8 最快響應(yīng)速度法
     
根據(jù)每個(gè)服務(wù)器節(jié)點(diǎn)的響應(yīng)時(shí)間（請(qǐng)求的往返延遲），動(dòng)態(tài)地選擇當(dāng)前響應(yīng)速度最快的服務(wù)器轉(zhuǎn)發(fā)請(qǐng)求；
     
和最小連接數(shù)法類似，最快響應(yīng)速度法也是動(dòng)態(tài)調(diào)整的，控制粒度更細(xì)，能者多勞；同時(shí)復(fù)雜度也高，需要計(jì)算每臺(tái)服務(wù)器的響應(yīng)速度。
     
4. 總結(jié)
     
但是當(dāng)訪問(wèn)量不斷增加，只部署一臺(tái)環(huán)境有些吃不消的時(shí)候，我們可以采用部署多臺(tái)環(huán)境，通過(guò)負(fù)載均衡的方式將請(qǐng)求分配到不同的服務(wù)器上，以達(dá)到橫向擴(kuò)展的目的。

這個(gè)在架構(gòu)中就叫做【集群部署】。

     
在這節(jié)課，我們了解到了：
     

      
      
     
     

     
【從單體架構(gòu)到分布式架構(gòu)】本系列文章希望用淺顯直白的語(yǔ)言介紹架構(gòu)發(fā)展過(guò)程中遇到的各種問(wèn)題，以及對(duì)應(yīng)的解決方案和優(yōu)缺點(diǎn)。

適合人群：
想從事 JavaWeb 開(kāi)發(fā)的學(xué)生，建議要有一定的 Java 語(yǔ)言基礎(chǔ)；
新手程序員，想要了解現(xiàn)在 JavaWeb 開(kāi)發(fā)比較流行的中間件和框架；
技術(shù)棧長(zhǎng)期為 SSH、SSM ，但是想尋求改變的程序員。

     

    
特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容，還沒(méi)關(guān)注的小伙伴，可以長(zhǎng)按關(guān)注一下：
長(zhǎng)按訂閱更多精彩▼
如有收獲，點(diǎn)個(gè)在看，誠(chéng)摯感謝