拿下計網(wǎng)協(xié)議后,我就是公園里最靚的仔
下面我們就要對不同的協(xié)議層進(jìn)行分類介紹了,我們還是采用自上而下的方式來介紹,這種介紹對讀者來說更容易接納,吸收程度更好。
一般情況下,用戶不太在意網(wǎng)絡(luò)應(yīng)用程序?qū)嶋H上是按照怎樣的機(jī)制運(yùn)行的,但我們是程序員吖,就套用朱偉的一句話說:你覺得計算機(jī)網(wǎng)絡(luò)程序員不了解,你指著互聯(lián)網(wǎng)用戶去了解嗎?有內(nèi)個味兒沒?
應(yīng)用層指的是 OSI 標(biāo)準(zhǔn)模型的第 5、6、7層,也就是會話層、表現(xiàn)層、應(yīng)用層。
我們介紹的時候都會使用 OSI 標(biāo)準(zhǔn)模型來介紹,因?yàn)檫@樣涵蓋的層次比較多,這樣對于 TCP/IP 模型來說,你也能加深理解。
應(yīng)用層概念
應(yīng)用層協(xié)議的定義
現(xiàn)如今,越來越多的應(yīng)用程序利用網(wǎng)絡(luò)進(jìn)行通信,這些應(yīng)用有 Web 瀏覽器、遠(yuǎn)程登錄、電子郵件、文件傳輸、文件下載等,應(yīng)用層的協(xié)議正是進(jìn)行這些行為活動的規(guī)則和標(biāo)準(zhǔn)。
應(yīng)用層協(xié)議(application layer protocol)
定義了在不同端系統(tǒng)上的應(yīng)用程序進(jìn)程如何相互傳遞報文。一般來說,會定義如下內(nèi)容
-
交換的報文類型:是請求報文還是相應(yīng)報文 -
報文字段的解釋:對報文中各個字段的詳細(xì)描述 -
報文字段的語義:報文各個字段的含義是什么 -
進(jìn)程何時、以什么方式發(fā)送報文以及響應(yīng)
應(yīng)用層體系結(jié)構(gòu)
應(yīng)用層體系結(jié)構(gòu)
的英文是 Application Architecture,它指的是應(yīng)用層的結(jié)構(gòu),一般來說,應(yīng)用層有兩種主流體系結(jié)構(gòu)
-
客戶 - 服務(wù)器體系結(jié)構(gòu) ( client-server architecture ) -
對等體系結(jié)構(gòu) ( P2P architecture )
下面我們先來聊一下客戶 - 服務(wù)器體系結(jié)構(gòu)的概念
在客戶-服務(wù)器體系結(jié)構(gòu)中,有一個總是打開的主機(jī)稱為 服務(wù)器(Server)
,它提供來自于 客戶(client)
的服務(wù)。我們最常見的服務(wù)器就是 Web 服務(wù)器
,Web 服務(wù)器服務(wù)于來自 瀏覽器
的請求。
當(dāng) Web 服務(wù)器通過瀏覽器接收到用戶請求后,它會經(jīng)過一系列的處理把信息或者頁面等通過瀏覽器呈現(xiàn)給應(yīng)用。這種模式就是客戶 - 服務(wù)器模式。
有兩點(diǎn)需要注意
在客戶 - 服務(wù)器模式下,通??蛻舯舜酥g是并不互相通信的。 服務(wù)器通常具有固定的、周知的 IP 地址可以提供訪問。
客戶 - 服務(wù)器模式通常會出現(xiàn)隨著客戶數(shù)量的急劇增加導(dǎo)致單臺服務(wù)器無法完成大量客戶請求的情況。為此,通常需要配備大量主機(jī)的 數(shù)據(jù)中心(data center)
,用來跟蹤所有的用戶請求。
于此相反,P2P 也就是對等體系結(jié)構(gòu)對這種數(shù)據(jù)中心的依賴性很低,因?yàn)樵?P2P 體系結(jié)構(gòu)中,應(yīng)用程序在兩個主機(jī)之間直接通信,這些主機(jī)被稱為對等方
,與有中心服務(wù)器的中央網(wǎng)絡(luò)系統(tǒng)不同,對等網(wǎng)絡(luò)的每個用戶端既是一個節(jié)點(diǎn),也有服務(wù)器的功能。常見的 P2P 體系結(jié)構(gòu)的應(yīng)用有 文件共享、視頻會議、網(wǎng)絡(luò)電話等。
P2P 一個最大的特點(diǎn)就是 擴(kuò)展性(self-scalability)
,因?yàn)?P2P 網(wǎng)絡(luò)的一個重要的目標(biāo)就是讓所有的客戶端都能提供資源、獲取資源,共享帶寬,存儲空間等。因此,當(dāng)有更多節(jié)點(diǎn)加入且對系統(tǒng)請求增多,整個系統(tǒng)的容量也增大。這是具有一組固定服務(wù)器的客戶 - 服務(wù)器結(jié)構(gòu)不具備的,這也就是 P2P 的擴(kuò)展性。
進(jìn)程通信
我們上面說到了兩種體系結(jié)構(gòu),一種是客戶 - 服務(wù)器模式,一種是 P2P 對等模式。我們都知道一個計算機(jī)允許同時運(yùn)行多個應(yīng)用程序,在我們看起來這些應(yīng)用程序好像是同時運(yùn)行的,那么它們之間是如何通信的呢?
用操作系統(tǒng)的術(shù)語來說,進(jìn)行通信實(shí)際上是 進(jìn)程(process)
而不是程序。一個進(jìn)程可以被認(rèn)為是運(yùn)行在端系統(tǒng)中的程序。當(dāng)多個進(jìn)程運(yùn)行在相同的端系統(tǒng)上時,它們使用進(jìn)程間的通信機(jī)制相互通信。進(jìn)程間的通信規(guī)則由操作系統(tǒng)來確定。
進(jìn)程與計算機(jī)網(wǎng)絡(luò)之間的接口
計算機(jī)是龐大且繁雜的,計算機(jī)網(wǎng)絡(luò)也是,應(yīng)用程序不可能只有一個進(jìn)程組成,它同樣是多個進(jìn)程共同作用協(xié)商運(yùn)行,然而,分布在多個端系統(tǒng)之間的進(jìn)程是如何進(jìn)行通信的呢?實(shí)際上,每個進(jìn)程之間會有一個 套接字(socket)
的軟件接口存在,套接字是應(yīng)用程序的內(nèi)部接口,應(yīng)用程序可以通過它發(fā)送或接收數(shù)據(jù),可對其進(jìn)行像對文件一樣的打開、讀寫和關(guān)閉等操作。
通過一個實(shí)例來簡單類比一下套接字和網(wǎng)絡(luò)進(jìn)程:進(jìn)程可類比一座房子,而它的套接字相當(dāng)于是房子的門,當(dāng)一個進(jìn)程想要與其他進(jìn)程進(jìn)行通信時,它會把報文推出門外,然后通過運(yùn)輸設(shè)備把報文運(yùn)輸?shù)搅硗庖蛔孔?,通過門進(jìn)入房子內(nèi)部使用。
下圖是一個通過套接字進(jìn)行通信的流程圖
從圖可以看到,Socket 屬于主機(jī)或者服務(wù)進(jìn)程的內(nèi)部接口
,由應(yīng)用程序開發(fā)人員進(jìn)行控制,兩臺端系統(tǒng)之間進(jìn)行通信會通過 TCP 的緩沖區(qū)經(jīng)由網(wǎng)絡(luò)傳輸?shù)搅硪粋€端系統(tǒng)的 TCP 緩沖區(qū),Socket 從 TCP 緩沖區(qū)讀取報文供應(yīng)用程序內(nèi)部使用。
套接字是建立網(wǎng)絡(luò)應(yīng)用程序的可編程接口,因此套接字也被稱為應(yīng)用程序和網(wǎng)絡(luò)之間的
應(yīng)用程序編程接口(Application Programming Interface,API)
。應(yīng)用程序開發(fā)人員可以控制套接字內(nèi)部細(xì)節(jié),但是無法控制運(yùn)輸層的傳輸,只能對運(yùn)輸層的傳輸協(xié)議進(jìn)行選擇,還可以對運(yùn)輸層的傳輸參數(shù)進(jìn)行選擇,比如最大緩存和最大報文長度等。
進(jìn)程尋址
我們上面提到網(wǎng)絡(luò)應(yīng)用程序之間會相互發(fā)送報文,那么你怎么知道你應(yīng)該向哪里發(fā)送報文呢?是不是存在某種機(jī)制能夠讓你知道你能夠發(fā)到哪里?這就好比你要發(fā)送電子郵件,你寫好了內(nèi)容但是你不知道發(fā)發(fā)往哪里,所以這個時候必須要有一種知道對方地址的機(jī)制,這種機(jī)制能夠辨明對方唯一的一個地址,這種地址就是 IP地址
。我們會在后面的文章中詳細(xì)討論 IP 地址的內(nèi)容,目前只需要知道 IP 是一個 32 比特的量并且能夠唯一標(biāo)示互聯(lián)網(wǎng)中任意一臺主機(jī)的地址就可以了。
只知道 IP 地址是否就可以了呢?我們知道一臺計算機(jī)可能會運(yùn)行多個網(wǎng)絡(luò)應(yīng)用程序,那么如何確定是哪個網(wǎng)絡(luò)應(yīng)用程序接受發(fā)送過來的報文呢?所以這時候還需要知道網(wǎng)絡(luò)應(yīng)用程序的 端口號(port number)
。例如, Web 應(yīng)用程序需要用 80 端口來標(biāo)示,郵件服務(wù)器程序需要使用 25 來標(biāo)示。
應(yīng)用程序如何選擇運(yùn)輸服務(wù)
我們知道應(yīng)用程序是屬于互聯(lián)網(wǎng)四層協(xié)議的 應(yīng)用層
協(xié)議,并且四層協(xié)議必須彼此協(xié)助共同完成工作。好了,這時候我們只有應(yīng)用層協(xié)議,我們需要發(fā)送報文,我們?nèi)绾伟l(fā)送報文呢?這就好比你知道目的地是哪里了,你該如何到達(dá)目的地呢?是走路,公交,地鐵還是打車?
應(yīng)用程序發(fā)送報文的交通工具
的選擇也有很多,我們可以從 數(shù)據(jù)傳輸是否可靠、吞吐量、定時和安全性 來考慮,下面是你需要考慮的具體內(nèi)容。
-
數(shù)據(jù)傳輸是否可靠
我們之前探討過,分組在計算機(jī)網(wǎng)絡(luò)中會存在丟包問題,丟包問題的嚴(yán)重性跟網(wǎng)絡(luò)應(yīng)用程序的性質(zhì)有關(guān),如果像是電子郵件、文件傳輸、遠(yuǎn)程主機(jī)、Web 文檔傳輸?shù)倪^程中出現(xiàn)問題,數(shù)據(jù)丟失可能會造成非常嚴(yán)重的后果。如果像是網(wǎng)絡(luò)游戲,多人視頻會議造成的影響可能比較小。鑒于此,數(shù)據(jù)傳輸?shù)目煽啃砸彩鞘紫刃枰紤]的問題。因此,如果一個協(xié)議提供了這樣的確保數(shù)據(jù)交付的服務(wù),就認(rèn)為提供了 可靠數(shù)據(jù)傳輸(reliable data transfer)
,能夠忍受數(shù)據(jù)丟失的應(yīng)用被稱為 容忍丟失的應(yīng)用(loss-tolerant application)
。
-
吞吐量
在之前的文章中我們引入了吞吐量的概念,吞吐量就是在網(wǎng)絡(luò)應(yīng)用中數(shù)據(jù)傳輸過程中,發(fā)送進(jìn)程能夠向接收進(jìn)程交付比特的速率。具有吞吐量要求的應(yīng)用程序被稱為 帶寬敏感的應(yīng)用(bandwidth-sensitive application)
。帶寬敏感的應(yīng)用具有特定的吞吐量要求,而 彈性應(yīng)用(elastic application)
能夠根據(jù)當(dāng)時可用的帶寬或多或少地利用可供使用的吞吐量。
-
定時
定時是什么意思?定時能夠確保網(wǎng)絡(luò)中兩個應(yīng)用程序的收發(fā)是否能夠在指定的時間內(nèi)完成,這也是應(yīng)用程序選擇運(yùn)輸服務(wù)需要考慮的一個因素,這聽起來很自然,你網(wǎng)絡(luò)應(yīng)用發(fā)送和接收數(shù)據(jù)包肯定要加以時間的概念,比如在游戲中,你一包數(shù)據(jù)遲遲發(fā)送不過去,對面都推塔了你還卡在半路上呢。
-
安全性
最后,選擇運(yùn)輸協(xié)議一定要能夠?yàn)閼?yīng)用程序提供一種或多種安全性服務(wù)。
因特網(wǎng)能夠提供的運(yùn)輸服務(wù)
說完運(yùn)輸服務(wù)的選型,接下來該聊一聊因特網(wǎng)能夠提供哪些服務(wù)了。實(shí)際上,因特網(wǎng)為應(yīng)用程序提供了兩種運(yùn)輸層的協(xié)議,即 UDP
和 TCP
,下面是一些網(wǎng)絡(luò)應(yīng)用的選擇要求,可以根據(jù)需要來選擇適合的運(yùn)輸層協(xié)議。
應(yīng)用 | 數(shù)據(jù)丟失 | 帶寬 | 時間敏感 |
---|---|---|---|
文件傳輸 | 不能丟失 | 彈性 | 不敏感 |
電子郵件 | 不能丟失 | 彈性 | 不敏感 |
Web 文檔 | 不能丟失 | 彈性 | 不敏感 |
因特網(wǎng)電話/視頻會議 | 容忍丟失 | 彈性 | 敏感,100ms |
流式存儲音頻/視頻 | 容忍丟失 | 彈性 | 敏感,幾秒 |
交互式游戲 | 容忍丟失 | 彈性 | 是,100ms |
智能手機(jī)消息 | 不能丟失 | 彈性 | 無所謂 |
下面我們就來聊一聊這兩種運(yùn)輸協(xié)議的應(yīng)用場景
TCP
TCP
服務(wù)模型的特性主要有下面幾種
-
面向連接的服務(wù)
在應(yīng)用層數(shù)據(jù)報發(fā)送后, TCP 讓客戶端和服務(wù)器互相交換運(yùn)輸層控制信息。這個握手過程就是提醒客戶端和服務(wù)器需要準(zhǔn)備好接受數(shù)據(jù)報。握手階段后,一個 TCP 連接(TCP Connection)
就建立了。這是一條全雙工的連接,即連接雙方的進(jìn)程都可以在此連接上同時進(jìn)行收發(fā)報文。當(dāng)應(yīng)用程序結(jié)束報文發(fā)送后,必須拆除連接。
-
可靠的數(shù)據(jù)傳輸
通信進(jìn)程能夠依靠 TCP,無差錯、按適當(dāng)順序交付所有發(fā)送的數(shù)據(jù)。應(yīng)用程序能夠依靠 TCP 將相同的字節(jié)流交付給接收方的套接字,沒有字節(jié)的丟失和冗余。
-
擁塞控制
TCP 的擁塞控制并不一定為通信進(jìn)程帶來直接好處,但能為因特網(wǎng)帶來整體好處。當(dāng)接收方和發(fā)送方之間的網(wǎng)絡(luò)出現(xiàn)擁塞時,TCP 的擁塞控制會抑制發(fā)送進(jìn)程(客戶端或服務(wù)器),我們會在后面具體探討擁塞控制
UDP
UDP
是一種輕量級的運(yùn)輸協(xié)議,它僅提供最小服務(wù)。UDP 是無連接的,因此在兩個進(jìn)程通信前沒有握手過程。UDP 也不會保證報文是否傳輸?shù)椒?wù)端,它就像是一個撒手掌柜。不僅如此,到達(dá)接收進(jìn)程的報文也可能是亂序到達(dá)的。
下面是上表列出來的一些應(yīng)用所選擇的協(xié)議
應(yīng)用 | 應(yīng)用層協(xié)議 | 支撐的運(yùn)輸協(xié)議 |
---|---|---|
電子郵件 | SMTP | TCP |
遠(yuǎn)程終端訪問 | Telnet | TCP |
Web | HTTP | TCP |
文件傳輸 | FTP | TCP |
流式多媒體 | HTTP | TCP |
因特網(wǎng)電話 | SIP、RTP | TCP 或 UDP |
應(yīng)用層協(xié)議
下面我們著重介紹一下應(yīng)用層都有哪些比較重要的應(yīng)用協(xié)議
WWW 和 HTTP
萬維網(wǎng)(WWW, World Wide Web)
是將互聯(lián)網(wǎng)中的信息以超文本的形式展現(xiàn)的系統(tǒng),也就是 Web 。用來顯示 WWW 結(jié)果的客戶端被稱為 Web 瀏覽器,通過瀏覽器,我們無需關(guān)注想要訪問的內(nèi)容在哪個服務(wù)器上,我們只需要知道我們想訪問的內(nèi)容就可以了。
WWW 定義了三個比較重要的概念,這些概念主要有
-
URI
,定義了訪問信息的手段和位置 -
HTML
, 定義了信息的表現(xiàn)形式 -
HTTP
,定義了 WWW 的訪問規(guī)范
URI / URL
URI
的全稱是(Uniform Resource Identifier),中文名稱是統(tǒng)一資源標(biāo)識符,使用它就能夠唯一地標(biāo)記互聯(lián)網(wǎng)上資源。
URL
的全稱是(Uniform Resource Locator),中文名稱是統(tǒng)一資源定位符,也就是我們俗稱的網(wǎng)址
,它實(shí)際上是 URI 的一個子集。
URI 不僅包括 URL,還包括 URN(統(tǒng)一資源名稱),它們之間的關(guān)系如下
URI 已經(jīng)不局限于標(biāo)識互聯(lián)網(wǎng)資源,它可以作為所有資源的識別碼。
HTML
HTML 稱為超文本標(biāo)記語言,是一種標(biāo)識性的語言。它包括一系列標(biāo)簽.通過這些標(biāo)簽可以將網(wǎng)絡(luò)上的文檔格式統(tǒng)一,使分散的 Internet 資源連接為一個邏輯整體。HTML 文本是由 HTML 命令組成的描述性文本,HTML 命令可以說明文字,圖形、動畫、聲音、表格、鏈接等。
HTTP
Web 的應(yīng)用層協(xié)議就是 HTTP(HyperText Transfer Protocol, HTTP)
, 超文本傳輸協(xié)議,它是 Web 的核心協(xié)議。下面我們需要了解一下 HTTP 中的幾個核心概念。
Web 頁面
Web 頁面也叫做 Web Page
,它是由對象組成,一個對象(object)
簡單來說就是一個文件,這個文件可以是 HTML 文件、一個圖片、一段 Java 應(yīng)用程序等,它們都可以通過 URI 來找到。一個 Web 頁面包含了很多對象,Web 頁面可以說是對象的集合體。
瀏覽器
就如同各大郵箱使用電子郵件傳送協(xié)議 SMTP
一樣,瀏覽器是使用 HTTP 協(xié)議的主要載體,說到瀏覽器,你能想起來幾種?是的,隨著網(wǎng)景大戰(zhàn)結(jié)束后,瀏覽器迅速發(fā)展,至今已經(jīng)出現(xiàn)過的瀏覽器主要有
Web 服務(wù)器
Web 服務(wù)器的正式名稱叫做 Web Server
,Web 服務(wù)器可以向?yàn)g覽器等 Web 客戶端提供文檔,也可以放置網(wǎng)站文件,讓全世界瀏覽;可以放置數(shù)據(jù)文件,讓全世界下載。目前最主流的三個 Web 服務(wù)器是 Apache、 Nginx 、IIS。
CDN
CDN 的全稱是Content Delivery Network
,即內(nèi)容分發(fā)網(wǎng)絡(luò)
,它應(yīng)用了 HTTP 協(xié)議里的緩存和代理技術(shù),代替源站響應(yīng)客戶端的請求。CDN 是構(gòu)建在現(xiàn)有網(wǎng)絡(luò)基礎(chǔ)之上的網(wǎng)絡(luò),它依靠部署在各地的邊緣服務(wù)器,通過中心平臺的負(fù)載均衡、內(nèi)容分發(fā)、調(diào)度等功能模塊,使用戶就近
獲取所需內(nèi)容,降低網(wǎng)絡(luò)擁塞,提高用戶訪問響應(yīng)速度和命中率。CDN 的關(guān)鍵技術(shù)主要有內(nèi)容存儲
和分發(fā)技術(shù)
。
打比方說你要去亞馬遜上買書,之前你只能通過購物網(wǎng)站購買后從美國發(fā)貨過海關(guān)等重重關(guān)卡送到你的家里,現(xiàn)在在中國建立一個亞馬遜分基地,你就不用通過美國進(jìn)行郵寄,從中國就能把書盡快給你送到。
WAF
WAF 是一種 Web 應(yīng)用程序防護(hù)系統(tǒng)(Web Application Firewall,簡稱 WAF)
,它是一種通過執(zhí)行一系列針對 HTTP / HTTPS的安全策略
來專門為 Web 應(yīng)用提供保護(hù)的一款產(chǎn)品,它是應(yīng)用層面的防火墻
,專門檢測 HTTP 流量,是防護(hù) Web 應(yīng)用的安全技術(shù)。
WAF 通常位于 Web 服務(wù)器之前,可以阻止如 SQL 注入、跨站腳本等攻擊,目前應(yīng)用較多的一個開源項(xiàng)目是 ModSecurity,它能夠完全集成進(jìn) Apache 或 Nginx。
WebService
WebService 是一種 Web 應(yīng)用程序,WebService 是一種跨編程語言和跨操作系統(tǒng)平臺的遠(yuǎn)程調(diào)用技術(shù)。
WebService 是一種由 W3C 定義的應(yīng)用服務(wù)開發(fā)規(guī)范,使用 client-server 主從架構(gòu),通常使用 WSDL 定義服務(wù)接口,使用 HTTP 協(xié)議傳輸 XML 或 SOAP 消息,它是一個基于 Web(HTTP)的服務(wù)架構(gòu)技術(shù),既可以運(yùn)行在內(nèi)網(wǎng),也可以在適當(dāng)保護(hù)后運(yùn)行在外網(wǎng)。
HTTP
HTTP 是一個在計算機(jī)世界里專門在兩點(diǎn)之間傳輸文字、圖片、音頻、視頻等超文本數(shù)據(jù)的約定和規(guī)范。HTTP 是一種應(yīng)用層協(xié)議,它使用 TCP 作為運(yùn)輸層協(xié)議,因?yàn)槲臋n、數(shù)據(jù)這些信息在我們看來是一種重要的信息,不可丟失。
HTTP 請求響應(yīng)過程
讓我們通過一個例子來探討一下 HTTP 的請求響應(yīng)過程,我們假設(shè)訪問的 URL 地址為 http://www.someSchool.edu/someDepartment/home.index
,當(dāng)我們輸入網(wǎng)址并點(diǎn)擊回車時,瀏覽器內(nèi)部會進(jìn)行如下操作
-
DNS服務(wù)器會首先進(jìn)行域名的映射,找到訪問 www.someSchool.edu
所在的地址,然后HTTP 客戶端進(jìn)程在 80 端口發(fā)起一個到服務(wù)器www.someSchool.edu
的 TCP 連接(80 端口是 HTTP 的默認(rèn)端口)。在客戶和服務(wù)器進(jìn)程中都會有一個套接字
與其相連。 -
HTTP 客戶端通過它的套接字向服務(wù)器發(fā)送一個 HTTP 請求報文。該報文中包含了路徑 someDepartment/home.index
的資源,我們后面會詳細(xì)討論 HTTP 請求報文。 -
HTTP 服務(wù)器通過它的套接字接受該報文,進(jìn)行請求的解析工作,并從其 存儲器(RAM 或磁盤)
中檢索出對象 www.someSchool.edu/someDepartment/home.index,然后把檢索出來的對象進(jìn)行封裝,封裝到 HTTP 響應(yīng)報文中,并通過套接字向客戶進(jìn)行發(fā)送。 -
HTTP 服務(wù)器隨即通知 TCP 斷開 TCP 連接,實(shí)際上是需要等到客戶接受完響應(yīng)報文后才會斷開 TCP 連接。 -
HTTP 客戶端接受完響應(yīng)報文后,TCP 連接會關(guān)閉。HTTP 客戶端從響應(yīng)中提取出報文中是一個 HTML 響應(yīng)文件,并檢查該 HTML 文件,然后循環(huán)檢查報文中其他內(nèi)部對象。 -
檢查完成后,HTTP 客戶端會把對應(yīng)的資源通過顯示器呈現(xiàn)給用戶。
至此,鍵入網(wǎng)址再按下回車的全過程就結(jié)束了。上述過程描述的是一種簡單的請求-響應(yīng)
全過程,真實(shí)的請求-響應(yīng)情況可能要比上面描述的過程復(fù)雜很多。
HTTP 請求特征
從上面整個過程中我們可以總結(jié)出 HTTP 進(jìn)行分組傳輸是具有以下特征
-
支持客戶 - 服務(wù)器模式 -
簡單快速
:客戶向服務(wù)器請求服務(wù)時,只需傳送請求方法和路徑。請求方法常用的有 GET、HEAD、POST。每種方法規(guī)定了客戶與服務(wù)器聯(lián)系的類型不同。由于 HTTP 協(xié)議簡單,使得 HTTP 服務(wù)器的程序規(guī)模小,因而通信速度很快。 -
靈活
:HTTP 允許傳輸任意類型的數(shù)據(jù)對象。正在傳輸?shù)念愋陀?Content-Type
加以標(biāo)記。 -
無連接
:無連接的含義是限制每次連接只處理一個請求。服務(wù)器處理完客戶的請求,并收到客戶的應(yīng)答后,即斷開連接。采用這種方式可以節(jié)省傳輸時間。 -
無狀態(tài)
:HTTP 協(xié)議是無狀態(tài)協(xié)議。無狀態(tài)是指協(xié)議對于事務(wù)處理沒有記憶能力。缺少狀態(tài)意味著如果后續(xù)處理需要前面的信息,則它必須重傳,這樣可能導(dǎo)致每次連接傳送的數(shù)據(jù)量增大。另一方面,在服務(wù)器不需要先前信息時它的應(yīng)答就較快。
持久鏈接和非持久鏈接
我們上面描述的 HTTP 請求響應(yīng)過程就是一種非持久鏈接
,因?yàn)槊看?TCP 在傳遞完報文后,都會關(guān)閉 TCP 鏈接,每個 TCP 連接只傳輸一個請求報文和響應(yīng)報文。
非持久性連接有一些缺點(diǎn)
。
-
第一,必須為每個請求的對象建立和維護(hù)一個全新的連接。 -
第二,對于每個這樣的連接來說,在客戶端和服務(wù)器中都要分配 TCP 的緩沖區(qū)和保持 TCP 變量,這給 Web 服務(wù)器帶來了嚴(yán)重的負(fù)擔(dān)。因?yàn)橐慌_ Web 服務(wù)器可能要同時服務(wù)于數(shù)百甚至上千個客戶請求。
在采用 HTTP 1.1 持續(xù)連接的情況下,服務(wù)器在發(fā)送響應(yīng)后保持該 TCP 連接打開不關(guān)閉。在相同的客戶與服務(wù)器之間,后續(xù)的請求和響應(yīng)報文能夠通過相同的連接進(jìn)行傳送。一般來說,如果一條連接經(jīng)過一定的時間間隔(可配置)后仍未使用,HTTP 服務(wù)器就應(yīng)該關(guān)閉其連接。
HTTP 報文格式
我們上面描述了一下 HTTP 的請求響應(yīng)過程,相信你對 HTTP 有了更深的認(rèn)識,下面我們就來一起認(rèn)識一下 HTTP 的報文格式是怎樣的。
HTTP 協(xié)議主要由三大部分組成:
-
起始行(start line)
:描述請求或響應(yīng)的基本信息; -
頭部字段(header)
:使用 key-value 形式更詳細(xì)地說明報文; -
消息正文(entity)
:實(shí)際傳輸?shù)臄?shù)據(jù),它不一定是純文本,可以是圖片、視頻等二進(jìn)制數(shù)據(jù)。
其中起始行和頭部字段并成為 請求頭
或者 響應(yīng)頭
,統(tǒng)稱為 Header
;消息正文也叫做實(shí)體,稱為 body
。HTTP 協(xié)議規(guī)定每次發(fā)送的報文必須要有 Header,但是可以沒有 body,也就是說頭信息是必須的,實(shí)體信息可以沒有。而且在 header 和 body 之間必須要有一個空行(CRLF)。如果用一幅圖來表示一下 HTTP 請求的話,我覺得應(yīng)該是下面這樣
如果細(xì)化一點(diǎn)的話,那就是下面這樣
這幅圖需要注意一下,如果使用 GET
方法,是沒有實(shí)體體的,如果你使用的是 POST
方法,才會有實(shí)體體。當(dāng)用戶提交表單時,HTTP 客戶端通常使用 POST 方法;與此相反,HTML 表單的獲取通常使用 GET 方法。HEAD 方法類似于 GET 方法,只不過 HEAD 方法不會返回對象。
下面我們來看一下 HTTP 響應(yīng)報文
可以看到,請求報文和響應(yīng)報文只有請求頭是不同的,其他信息均一致。
請求報文請求行:
GET /some/page.html HTTP/1.1
響應(yīng)報文:
HTTP/1.1 200 OK
Cookie 和 Session
HTTP 協(xié)議是一種無狀態(tài)協(xié)議
,即每次服務(wù)端接收到客戶端的請求時,都是一個全新的請求,服務(wù)器并不知道客戶端的歷史請求記錄;Session 和 Cookie 的主要目的就是為了彌補(bǔ) HTTP 的無狀態(tài)特性。
Session 是什么
客戶端請求服務(wù)端,服務(wù)端會為這次請求開辟一塊內(nèi)存空間
,這個對象便是 Session 對象,存儲結(jié)構(gòu)為 ConcurrentHashMap
。Session 彌補(bǔ)了 HTTP 無狀態(tài)特性,服務(wù)器可以利用 Session 存儲客戶端在同一個會話期間的一些操作記錄。
Session 如何判斷是否是同一會話
服務(wù)器第一次接收到請求時,開辟了一塊 Session 空間(創(chuàng)建了Session對象),同時生成一個 sessionId ,并通過響應(yīng)頭的 Set-Cookie:JSESSIONID=XXXXXXX 命令,向客戶端發(fā)送要求設(shè)置 Cookie 的響應(yīng);客戶端收到響應(yīng)后,在本機(jī)客戶端設(shè)置了一個 JSESSIONID=XXXXXXX 的 Cookie 信息,該 Cookie 的過期時間為瀏覽器會話結(jié)束;
接下來客戶端每次向同一個網(wǎng)站發(fā)送請求時,請求頭都會帶上該 Cookie信息(包含 sessionId ), 然后,服務(wù)器通過讀取請求頭中的 Cookie 信息,獲取名稱為 JSESSIONID 的值,得到此次請求的 sessionId。
Session 的缺點(diǎn)
Session 機(jī)制有個缺點(diǎn),比如 A 服務(wù)器存儲了 Session,就是做了負(fù)載均衡后,假如一段時間內(nèi) A 的訪問量激增,會轉(zhuǎn)發(fā)到 B 進(jìn)行訪問,但是 B 服務(wù)器并沒有存儲 A 的 Session,會導(dǎo)致 Session 的失效。
Cookies 是什么
HTTP 協(xié)議中的 Cookie 包括 Web Cookie
和瀏覽器 Cookie
,它是服務(wù)器發(fā)送到 Web 瀏覽器的一小塊數(shù)據(jù)。服務(wù)器發(fā)送到瀏覽器的 Cookie,瀏覽器會進(jìn)行存儲,并與下一個請求一起發(fā)送到服務(wù)器。通常,它用于判斷兩個請求是否來自于同一個瀏覽器,例如用戶保持登錄狀態(tài)。
HTTP Cookie 機(jī)制是 HTTP 協(xié)議無狀態(tài)的一種補(bǔ)充和改良
Cookie 主要用于下面三個目的
-
會話管理
登陸、購物車、游戲得分或者服務(wù)器應(yīng)該記住的其他內(nèi)容
-
個性化
用戶偏好、主題或者其他設(shè)置
-
追蹤
記錄和分析用戶行為
Cookie 曾經(jīng)用于一般的客戶端存儲。雖然這是合法的,因?yàn)樗鼈兪窃诳蛻舳松洗鎯?shù)據(jù)的唯一方法,但如今建議使用現(xiàn)代存儲 API。Cookie 隨每個請求一起發(fā)送,因此它們可能會降低性能(尤其是對于移動數(shù)據(jù)連接而言)。
創(chuàng)建 Cookie
當(dāng)接收到客戶端發(fā)出的 HTTP 請求時,服務(wù)器可以發(fā)送帶有響應(yīng)的 Set-Cookie
標(biāo)頭,Cookie 通常由瀏覽器存儲,然后將 Cookie 與 HTTP 標(biāo)頭一同向服務(wù)器發(fā)出請求。
Set-Cookie 和 Cookie 標(biāo)頭
Set-Cookie
HTTP 響應(yīng)標(biāo)頭將 cookie 從服務(wù)器發(fā)送到用戶代理。下面是一個發(fā)送 Cookie 的例子
此標(biāo)頭告訴客戶端存儲 Cookie
現(xiàn)在,隨著對服務(wù)器的每個新請求,瀏覽器將使用 Cookie 頭將所有以前存儲的 Cookie 發(fā)送回服務(wù)器。
有兩種類型的 Cookies,一種是 Session Cookies,一種是 Persistent Cookies,如果 Cookie 不包含到期日期,則將其視為會話 Cookie。會話 Cookie 存儲在內(nèi)存中,永遠(yuǎn)不會寫入磁盤,當(dāng)瀏覽器關(guān)閉時,此后 Cookie 將永久丟失。如果 Cookie 包含有效期
,則將其視為持久性 Cookie。在到期指定的日期,Cookie 將從磁盤中刪除。
還有一種是 Cookie的 Secure 和 HttpOnly 標(biāo)記
,下面依次來介紹一下
會話 Cookies
上面的示例創(chuàng)建的是會話 Cookie ,會話 Cookie 有個特征,客戶端關(guān)閉時 Cookie 會刪除,因?yàn)樗鼪]有指定Expires
或 Max-Age
指令。
但是,Web 瀏覽器可能會使用會話還原,這會使大多數(shù)會話 Cookie 保持永久狀態(tài),就像從未關(guān)閉過瀏覽器一樣。
永久性 Cookies
永久性 Cookie 不會在客戶端關(guān)閉時過期,而是在特定日期(Expires)
或特定時間長度(Max-Age)
外過期。例如
Set-Cookie: id=a3fWa; Expires=Wed, 21 Oct 2015 07:28:00 GMT;
對 Cookie 的爭論
盡管 Cookie 能夠簡化用戶的網(wǎng)絡(luò)活動,但是 Cookie 的使用存在爭議,因?yàn)椴簧偃苏J(rèn)為它對用戶是一種侵權(quán)行為。因?yàn)榻Y(jié)合 Cookie 和用戶提供的賬戶信息,Web 站點(diǎn)可以知道更多關(guān)于用戶的信息。
Web 緩存
Web 緩存(Web cache)
也叫做 代理服務(wù)器(proxy server)
,它是代表 HTTP 服務(wù)器來滿足用戶需求的網(wǎng)絡(luò)實(shí)體。Web 緩存器有自己的磁盤存儲空間
,并會在存儲空間內(nèi)保存最近請求過的對象,如下圖所示
Web 緩存可以在用戶的瀏覽器中進(jìn)行配置,一旦配置后,用戶首先訪問的就不是初始服務(wù)器了,需要先訪問代理服務(wù)器判斷請求的對象是否存在,如果代理服務(wù)器沒有,再由代理服務(wù)器來請求初始服務(wù)器把對象返回給客戶,同時在自己的磁盤空間保存對象。
這里需要注意,客戶和初始服務(wù)器的架構(gòu)是
客戶-服務(wù)器
模式,而代理服務(wù)器不僅能當(dāng)服務(wù)器使用,也可以當(dāng)作客戶端使用。
代理服務(wù)器一般由 ISP(Internet Service Provider)
,提供。注意不是老色批。。。ISP 也就是我們常說的運(yùn)營商,你懂的。
那么為什么需要代理服務(wù)器的存在呢?相信你看完上面的描述應(yīng)該能大致猜到它的作用。
-
首先,代理服務(wù)器可以大大減少對客戶請求的響應(yīng)時間,能夠更快給用戶響應(yīng)。 -
其次,代理服務(wù)器可以減少一個機(jī)構(gòu)接入鏈路到網(wǎng)絡(luò)的通信量,降低網(wǎng)絡(luò)帶寬,降低運(yùn)營商成本。 -
然后,代理服務(wù)器可以分擔(dān)初始服務(wù)器的壓力,改善應(yīng)用程序的性能。
DASH
通過上面的描述我們知道 HTTP 是可以傳輸普通文件、音頻、視頻的,這些傳輸?shù)男畔⒔y(tǒng)稱為 MIME
類型。HTTP 在傳遞視頻中,也只是把視頻當(dāng)作對象來傳輸,而一個對象其實(shí)就是一個文件,一個文件都在 HTTP 中都可以用 URL 來表示。當(dāng)用戶在看視頻時,客戶與服務(wù)器建立一個 TCP 連接并發(fā)送對該 URL 的 GET 請求,然后服務(wù)器響應(yīng)給客戶端時,客戶端會緩存一定量的字節(jié)數(shù)據(jù),當(dāng)數(shù)據(jù)超過預(yù)先設(shè)定的門限時,客戶應(yīng)用程序就開始播放視頻。
這種方式有一種局限性就是對每個客戶端來說,盡管每個客戶端可用的帶寬量不同,但所有客戶端都收到相同的視頻編碼。這就造成帶寬浪費(fèi)。這就相當(dāng)我是一個 2兆的網(wǎng)絡(luò)和 50 兆的光纖都能收到相同的視頻編碼,以幾乎相同的等待時間開始播放視頻,那么我為什么還要花 50 兆光纖的錢呢?
為了改善這一現(xiàn)象,出現(xiàn)了 HTTP 的 DASH
,DASH 即 Dynamic Adaptive Streaming HTTP
,動態(tài)適應(yīng)流。它的理念是針對不同流量的網(wǎng)絡(luò)來說,所能夠傳輸?shù)谋忍財?shù)據(jù)也不相同。DASH 允許客戶使用不同的因特網(wǎng)傳輸速率可以播放不同編碼速率的視頻。對于 3G 用戶和光纖用戶自然會選擇以不同的速率傳輸比特數(shù)據(jù),從而最大限度的使用帶寬。
CDN
隨著互聯(lián)網(wǎng)的接入用戶變得越來越多,視頻逐漸成為了比特傳輸?shù)钠款i和用戶的強(qiáng)烈需求。作為一個因特網(wǎng)視頻公司,最一開始提供流式服務(wù)最直接的方式是建立單一的大規(guī)模數(shù)據(jù)中心
。在數(shù)據(jù)中心內(nèi)緩存所有視頻,并直接從數(shù)據(jù)中心向世界范圍內(nèi)傳播視頻。但是這種方式存在三種問題
-
如果客戶遠(yuǎn)離數(shù)據(jù)中心,那么服務(wù)器到客戶分組會跨越許多通信鏈路并且可能通過許多 ISP,這樣你的視頻播放能快到哪去? -
每次視頻數(shù)據(jù)都會重新傳遞給客戶端,這樣會嚴(yán)重浪費(fèi)網(wǎng)絡(luò)帶寬,而且視頻公司會支付重復(fù)的帶寬費(fèi)用 -
單點(diǎn)故障問題,只要視頻數(shù)據(jù)中心宕機(jī)或者其他事故,直接導(dǎo)致全球范圍內(nèi)的視頻無法播放。
為了應(yīng)對能夠向全世界的用戶 24 小時不間斷的分發(fā)視頻,幾乎所有的主流視頻公司都會使用 內(nèi)容分發(fā)網(wǎng)(Content Distribution Network, CDN)
。CDN 管理分布在多個地理位置上的服務(wù)器,在每個服務(wù)器上緩存各種視頻、音頻、文件等。
CDN 內(nèi)容選擇策略
CDN 管理分布在多個地理位置上的服務(wù)器,在它的服務(wù)器上存儲視頻副本,并且所有試圖將每個用戶請求定向到一個提供最好用戶體驗(yàn)的 CDN 位置。那么服務(wù)器如何選址呢?事實(shí)上有兩種服務(wù)器安置原則
-
深入
,它的主要目標(biāo)是靠近用戶,通過減少端用戶和 CDN 集群之間鏈路和路由器的數(shù)量,從而改善了用戶感受的時延和吞吐量。 -
邀請做客
,這個原則是通過在少量(例如 10 個)關(guān)鍵位置建造大集群來邀請 ISP 來做客,與深入設(shè)計原則相比,邀請做客設(shè)計通常產(chǎn)生較低的維護(hù)和管理開銷。
CDN 工作流程
CDN 可以是專用 CDN(private CDN)
, 即它由內(nèi)容提供商自己所擁有;另一種 CDN 是 第三方 CDN(third-party CDN)
,它代表多個內(nèi)容提供商分發(fā)內(nèi)容。
下面我們來聊一下 CDN 工作流程,如下圖所示
-
用戶想要訪問指定網(wǎng)站的內(nèi)容
-
用戶首先發(fā)起對本地 DNS,LDNS 的查詢,LDNS 會將請求中繼到網(wǎng)站 DNS 服務(wù)器,網(wǎng)站的 DNS 服務(wù)器會返回給 LDNS 一個網(wǎng)站 CDN 權(quán)威服務(wù)器的地址
-
LDNS 服務(wù)器會發(fā)送第二個請求給網(wǎng)站 CDN 權(quán)威服務(wù)器,希望獲取網(wǎng)站內(nèi)容分發(fā)服務(wù)器的地址,網(wǎng)站 CDN 會把 CDN 內(nèi)容分發(fā)服務(wù)器的地址發(fā)送給本地 DNS 服務(wù)器
-
本地 DNS 服務(wù)器會把網(wǎng)站 CDN 內(nèi)容分發(fā)服務(wù)器的地址發(fā)送給用戶
-
用戶知道網(wǎng)站 CDN 內(nèi)容分發(fā)服務(wù)器的地址后,無需額外操作,直接和網(wǎng)站 CDN 內(nèi)容分發(fā)服務(wù)器建立 TCP 連接,并且發(fā)出 HTTP GET 請求,如果使用了 DASH 流,會根據(jù)不同 URL 的版本選擇不同速率的塊發(fā)送給用戶。
CDN 集群選擇策略
任何 CDN 的部署,其核心是 集群選擇策略(cluster selection strategy)
, 即動態(tài)的將客戶定向到 CDN 中某個服務(wù)器集群或數(shù)據(jù)中心的機(jī)制。一種簡單的策略是指派客戶到 地理上最為臨近(geographically closest)
的集群。這種選擇策略忽略了時延和可用帶寬隨因特網(wǎng)路徑時間而變化,總是為特定的客戶指派相同的集群;還有一種選擇策略是 實(shí)時測量(real-time measurement)
,該機(jī)制是基于集群和客戶之間的時延和丟包性能執(zhí)行周期性檢查。
DNS 因特網(wǎng)目錄服務(wù)協(xié)議
試想一個問題,我們?nèi)祟惪梢杂卸嗌俜N識別自己的方式?可以通過身份證來識別,可以通過社??ㄌ杹碜R別,也可以通過駕駛證來識別,盡管我們有多種識別方式,但在特定的環(huán)境下,某種識別方法可能比另一種方法更為適合。因特網(wǎng)上的主機(jī)和人類一樣,可以使用多種識別方式進(jìn)行標(biāo)識?;ヂ?lián)網(wǎng)上主機(jī)的一種標(biāo)識方法是使用它的 主機(jī)名(hostname)
,如 www.facebook.com、 www.google.com 等。但是這是我們?nèi)祟惖挠洃浄绞剑酚善鞑粫@么理解,路由器喜歡定長的、有層次結(jié)構(gòu)的 IP地址
,so,還記得 IP 是什么嗎?
IP 地址現(xiàn)在簡單表述一下,就是一個由 4 字節(jié)組成,并有著嚴(yán)格的層次結(jié)構(gòu)。例如 121.7.106.83
這樣一個 IP 地址,其中的每個字節(jié)都可以用 .
進(jìn)行分割,表示了 0 - 255
的十進(jìn)制數(shù)字。(具體的 IP 我們會在后面討論)
然而,路由器喜歡的是 IP 地址進(jìn)行解析,我們?nèi)祟悈s便于記憶的是網(wǎng)址,那么路由器如何把 IP 地址解析為我們熟悉的網(wǎng)址地址呢?這時候就需要 DNS
出現(xiàn)了。
DNS 的全稱是 Domain Name System,DNS
,它是一個由分層的 DNS 服務(wù)器(DNS server)
實(shí)現(xiàn)的分布式數(shù)據(jù)庫;它還是一個使得主機(jī)能夠查詢分布式數(shù)據(jù)庫的應(yīng)用層協(xié)議。DNS 服務(wù)器通常是運(yùn)行 BIND(Berkeley Internet Name Domain)
軟件的 UNIX 機(jī)器。DNS 協(xié)議運(yùn)行在 UDP
之上,使用 53 端口。
DNS 基本概述
與 HTTP、FTP 和 SMTP 一樣,DNS 協(xié)議也是應(yīng)用層的協(xié)議,DNS 使用客戶-服務(wù)器
模式運(yùn)行在通信的端系統(tǒng)之間,在通信的端系統(tǒng)之間通過下面的端到端運(yùn)輸協(xié)議來傳送 DNS 報文。但是 DNS 不是一個直接和用戶打交道的應(yīng)用。DNS 是為因特網(wǎng)上的用戶應(yīng)用程序以及其他軟件提供一種核心功能。
DNS 通常不是一門獨(dú)立的協(xié)議,它通常為其他應(yīng)用層協(xié)議所使用,這些協(xié)議包括 HTTP、SMTP 和 FTP,將用戶提供的主機(jī)名解析為 IP 地址。
下面根據(jù)一個示例來描述一下這個 DNS 解析過程,這個和你輸入網(wǎng)址后,瀏覽器做了什么操作有異曲同工之處
你在瀏覽器鍵入 www.someschool.edu/index.html 時會發(fā)生什么現(xiàn)象?為了使用戶主機(jī)能夠?qū)⒁粋€ HTTP 請求報文發(fā)送到 Web 服務(wù)器 www.someschool.edu ,會經(jīng)歷如下操作
-
同一臺用戶主機(jī)上運(yùn)行著 DNS 應(yīng)用的客戶端 -
瀏覽器從上述 URL 中抽取出主機(jī)名 www.someschool.edu ,并將這臺主機(jī)名傳給 DNS 應(yīng)用的客戶端 -
DNS 客戶向 DNS 服務(wù)器發(fā)送一個包含主機(jī)名的請求。 -
DNS 客戶最終會收到一份回答報文,其中包含該目標(biāo)主機(jī)的 IP 地址 -
一旦瀏覽器收到目標(biāo)主機(jī)的 IP 地址后,它就能夠向位于該 IP 地址 80 端口的 HTTP 服務(wù)器進(jìn)程發(fā)起一個 TCP 連接。
除了提供 IP 地址到主機(jī)名的轉(zhuǎn)換,DNS 還提供了下面幾種重要的服務(wù)
-
主機(jī)別名(host aliasing)
,有著復(fù)雜的主機(jī)名的主機(jī)能夠擁有一個或多個其他別名,比如說一臺名為 relay1.west-coast.enterprise.com 的主機(jī),同時會擁有 enterprise.com 和 www.enterprise.com 的兩個主機(jī)別名,在這種情況下,relay1.west-coast.enterprise.com 也稱為規(guī)范主機(jī)名
,而主機(jī)別名要比規(guī)范主機(jī)名更加容易記憶。應(yīng)用程序可以調(diào)用 DNS 來獲得主機(jī)別名對應(yīng)的規(guī)范主機(jī)名以及主機(jī)的 IP地址。 -
郵件服務(wù)器別名(mail server aliasing)
,同樣的,電子郵件的應(yīng)用程序也可以調(diào)用 DNS 對提供的主機(jī)名進(jìn)行解析。 -
負(fù)載分配(load distribution)
,DNS 也用于冗余的服務(wù)器之間進(jìn)行負(fù)載分配。繁忙的站點(diǎn)例如cnn.com
被冗余分布在多臺服務(wù)器上,每臺服務(wù)器運(yùn)行在不同的端系統(tǒng)之間,每個都有著不同的 IP 地址。由于這些冗余的 Web 服務(wù)器,一個 IP 地址集合因此與同一個規(guī)范主機(jī)名聯(lián)系。DNS 數(shù)據(jù)庫中存儲著這些 IP 地址的集合。由于客戶端每次都會發(fā)起 HTTP 請求,所以 DNS 就會在所有這些冗余的 Web 服務(wù)器之間循環(huán)分配了負(fù)載。
DNS 工作概述
DNS 是一個復(fù)雜的系統(tǒng),我們在這里只是就其運(yùn)行的主要方面進(jìn)行學(xué)習(xí),下面給出一個 DNS 工作過程的總體概述
假設(shè)運(yùn)行在用戶主機(jī)上的某些應(yīng)用程序(如 Web 瀏覽器或郵件閱讀器) 需要將主機(jī)名轉(zhuǎn)換為 IP 地址。這些應(yīng)用程序?qū)⒄{(diào)用 DNS 的客戶端,并指明需要被轉(zhuǎn)換的主機(jī)名。用戶主機(jī)上的 DNS 收到后,會使用 UDP 通過 53 端口向網(wǎng)絡(luò)上發(fā)送一個 DNS 查詢報文,經(jīng)過一段時間后,用戶主機(jī)上的 DNS 會收到一個主機(jī)名對應(yīng)的 DNS 回答報文。因此,從用戶主機(jī)的角度來看,DNS 就像是一個黑盒子,其內(nèi)部的操作你無法看到。但是實(shí)際上,實(shí)現(xiàn) DNS 這個服務(wù)的黑盒子非常復(fù)雜,它由分布于全球的大量 DNS 服務(wù)器以及定義了 DNS 服務(wù)器與查詢主機(jī)通信方式的應(yīng)用層協(xié)議組成。
DNS 最早的一種簡單設(shè)計只是在因特網(wǎng)上使用一個 DNS 服務(wù)器。該服務(wù)器會包含所有的映射。這是一種集中式
的設(shè)計,這種設(shè)計并不適用于當(dāng)今的互聯(lián)網(wǎng),因?yàn)榛ヂ?lián)網(wǎng)有著數(shù)量巨大并且持續(xù)增長的主機(jī),這種集中式的設(shè)計會存在以下幾個問題
-
單點(diǎn)故障(a single point of failure)
,如果 DNS 服務(wù)器崩潰,那么整個網(wǎng)絡(luò)隨之癱瘓。 -
通信容量(traaffic volume)
,單個 DNS 服務(wù)器不得不處理所有的 DNS 查詢,這種查詢級別可能是上百萬上千萬級 -
遠(yuǎn)距離集中式數(shù)據(jù)庫(distant centralized database)
,單個 DNS 服務(wù)器不可能鄰近
所有的用戶,假設(shè)在美國的 DNS 服務(wù)器不可能臨近讓澳大利亞的查詢使用,其中查詢請求勢必會經(jīng)過低速和擁堵的鏈路,造成嚴(yán)重的時延。 -
維護(hù)(maintenance)
,維護(hù)成本巨大,而且還需要頻繁更新。
所以 DNS 不可能集中式設(shè)計,它完全沒有可擴(kuò)展能力,因此采用分布式設(shè)計
,所以這種設(shè)計的特點(diǎn)如下
分布式、層次數(shù)據(jù)庫
首先分布式設(shè)計首先解決的問題就是 DNS 服務(wù)器的擴(kuò)展性問題,因此 DNS 使用了大量的 DNS 服務(wù)器,它們的組織模式一般是層次方式,并且分布在全世界范圍內(nèi)。沒有一臺 DNS 服務(wù)器能夠擁有因特網(wǎng)上所有主機(jī)的映射。相反,這些映射分布在所有的 DNS 服務(wù)器上。
大致來說有三種 DNS 服務(wù)器:根 DNS 服務(wù)器
、 頂級域(Top-Level Domain, TLD) DNS 服務(wù)器
和 權(quán)威 DNS 服務(wù)器
。這些服務(wù)器的層次模型如下圖所示
假設(shè)現(xiàn)在一個 DNS 客戶端想要知道 www.amazon.com 的 IP 地址,那么上面的域名服務(wù)器是如何解析的呢?首先,客戶端會先根服務(wù)器之一進(jìn)行關(guān)聯(lián),它將返回頂級域名 com
的 TLD 服務(wù)器的 IP 地址。該客戶則與這些 TLD 服務(wù)器之一聯(lián)系,它將為 amazon.com 返回權(quán)威服務(wù)器的 IP 地址。最后,該客戶與 amazom.com 權(quán)威服務(wù)器之一聯(lián)系,它為 www.amazom.com 返回其 IP 地址。
我們現(xiàn)在來討論一下上面域名服務(wù)器的層次系統(tǒng)
-
根 DNS 服務(wù)器
,有 400 多個根域名服務(wù)器遍及全世界,這些根域名服務(wù)器由 13 個不同的組織管理。根域名服務(wù)器的清單和組織機(jī)構(gòu)可以在 https://root-servers.org/ 中找到,根域名服務(wù)器提供 TLD 服務(wù)器的 IP 地址。 -
頂級域 DNS 服務(wù)器
,對于每個頂級域名比如 com、org、net、edu 和 gov 和所有的國家級域名 uk、fr、ca 和 jp 都有 TLD 服務(wù)器或服務(wù)器集群。所有的頂級域列表參見 https://tld-list.com/ 。TDL 服務(wù)器提供了權(quán)威 DNS 服務(wù)器的 IP 地址。 -
權(quán)威 DNS 服務(wù)器
,在因特網(wǎng)上具有公共可訪問的主機(jī),如 Web 服務(wù)器和郵件服務(wù)器,這些主機(jī)的組織機(jī)構(gòu)必須提供可供訪問的 DNS 記錄,這些記錄將這些主機(jī)的名字映射為 IP 地址。一個組織機(jī)構(gòu)的權(quán)威 DNS 服務(wù)器收藏了這些 DNS 記錄。
一般域名服務(wù)器的層次結(jié)構(gòu)主要是以上三種,除此之外,還有另一類重要的 DNS 服務(wù)器,它是 本地 DNS 服務(wù)器(local DNS server)
。嚴(yán)格來說,本地 DNS 服務(wù)器并不屬于上述層次結(jié)構(gòu),但是本地 DNS 服務(wù)器又是至關(guān)重要的。每個 ISP(Internet Service Provider) 比如居民區(qū)的 ISP 或者一個機(jī)構(gòu)的 ISP 都有一臺本地 DNS 服務(wù)器。當(dāng)主機(jī)和 ISP 進(jìn)行連接時,該 ISP 會提供一臺主機(jī)的 IP 地址,該主機(jī)會具有一臺或多臺其本地 DNS 服務(wù)器的 IP地址。通過訪問網(wǎng)絡(luò)連接,用戶能夠容易的確定 DNS 服務(wù)器的 IP地址。當(dāng)主機(jī)發(fā)出 DNS 請求后,該請求被發(fā)往本地 DNS 服務(wù)器,它起著代理的作用,并將該請求轉(zhuǎn)發(fā)到 DNS 服務(wù)器層次系統(tǒng)中。
DNS 緩存
DNS 緩存(DNS caching)
有時也叫做 DNS 解析器緩存,它是由操作系統(tǒng)維護(hù)的臨時數(shù)據(jù)庫,它包含有最近的網(wǎng)站和其他 Internet 域的訪問記錄。也就是說, DNS 緩存只是計算機(jī)為了滿足快速的響應(yīng)速度而把已加載過的資源緩存起來,再次訪問時可以直接快速引用的一項(xiàng)技術(shù)和手段。那么 DNS 的緩存是如何工作的呢?
DNS 緩存的工作流程
在瀏覽器向外部發(fā)出請求之前,計算機(jī)會攔截每個請求并在 DNS 緩存數(shù)據(jù)庫中查找域名,該數(shù)據(jù)庫包含有最近的域名列表,以及 DNS 首次發(fā)出請求時 DNS 為它們計算的地址。
DNS 記錄和報文
共同實(shí)現(xiàn) DNS 分布式數(shù)據(jù)庫的所有 DNS 服務(wù)器存儲了資源記錄(Resource Record, RR)
,RR 提供了主機(jī)名到 IP 地址的映射。每個 DNS 回答報文中會包含一條或多條資源記錄。RR 記錄用于回復(fù)客戶端查詢。
資源記錄是一個包含了下列字段的 4 元組
(Name,?Value,?Type,?TTL)
RR 會有不同的類型,下面是不同類型的 RR 匯總表
DNS RR 類型 | 解釋 |
---|---|
A 記錄 | IPv4 主機(jī)記錄,用于將域名映射到 IPv4 地址 |
AAAA 記錄 | IPv6 主機(jī)記錄,用于將域名映射到 IPv6 地址 |
CNAME 記錄 | 別名記錄,用于映射 DNS 域名的別名 |
MX 記錄 | 郵件交換器,用于將 DNS 域名映射到郵件服務(wù)器 |
PTR 記錄 | 指針,用于反向查找(IP地址到域名解析) |
SRV 記錄 | SRV記錄,用于映射可用服務(wù)。 |
DNS 報文
DNS 有兩種報文,一種是查詢報文,一種是響應(yīng)報文,并且這兩種報文有著相同的格式,下面是 DNS 的報文格式
下面對報文格式進(jìn)行解釋
-
前 12 個報文是
首部區(qū)域
,也就是說首部區(qū)域有 12 個字節(jié),第一個字段(標(biāo)識符)是一個 16 比特的數(shù),用于標(biāo)示該查詢。這個標(biāo)識符會被復(fù)制到對查詢的回答報文中,以便讓客戶用它來匹配發(fā)送的請求和接受到的回答。標(biāo)志字段含有若干標(biāo)志,標(biāo)志字段表示為 1 比特,它用于指出報文是 0-查詢報文還是 1-響應(yīng)報文。 -
問題區(qū)域
包含著正在進(jìn)行的查詢信息。這個區(qū)域包括:1) 名字字段,包含正在被查詢的主機(jī)名字;2) 類型字段,指出有關(guān)該名字的正被詢問的問題類型,例如主機(jī)地址是與一個名字相關(guān)聯(lián)(類型 A)還是與某個名字的郵件服務(wù)器相關(guān)聯(lián)(類型 MX)。 -
在來自 DNS 服務(wù)器的回答中,回答區(qū)域包含了對最初請求的名字的資源記錄。上面說過 DNS RR記錄是個四元組,而且元組中的 Type 會有不同的類型。在回答報文的回答區(qū)域中可以包含多條 RR,因此一個主機(jī)名能夠有多個 IP 地址。
-
權(quán)威區(qū)域
包含了其他權(quán)威服務(wù)器的記錄 -
附加區(qū)域
包含了其他有幫助的記錄。
關(guān)于具體 DNS 記錄的詳細(xì)介紹我會出一篇文章專門探討。
P2P 文件分發(fā)
我們上面探討的協(xié)議 HTTP、SMTP、DNS 都采用了客戶-服務(wù)器
模式,這種模式會極大依賴總是打開的基礎(chǔ)設(shè)施服務(wù)器。而 P2P
是客戶端與客戶端模式,對總是打開的基礎(chǔ)設(shè)施服務(wù)器有最小的依賴。
P2P 的全稱是 Peer-to-peer, P2P
,是一種分布式體系結(jié)構(gòu)的計算機(jī)網(wǎng)絡(luò)。在 P2P 體系中,所有的計算機(jī)和設(shè)備都被稱為對等體,他們互相交換工作。對等網(wǎng)絡(luò)中的每個對等方都等于其他對等方。網(wǎng)絡(luò)中沒有特權(quán)對等體,也沒有主管理員設(shè)備。
從某種意義上說,對等網(wǎng)絡(luò)是計算機(jī)世界中最平等的網(wǎng)絡(luò)。每個對等方都相等,并且每個對等方具有與其他對等方相同的權(quán)利和義務(wù)。對等體同時是客戶端和服務(wù)器。
實(shí)際上,對等網(wǎng)絡(luò)中可用的每個資源都是在對等之間共享的,而無需任何中央服務(wù)器。P2P 網(wǎng)絡(luò)中的共享資源可以是諸如處理器使用率,磁盤存儲容量或網(wǎng)絡(luò)帶寬等。
P2P 用來做什么
P2P 的主要目標(biāo)是共享資源并幫助計算機(jī)和設(shè)備協(xié)同工作,提供特定服務(wù)或執(zhí)行特定任務(wù)。如前面說到的,P2P 用于共享各種計算資源,例如網(wǎng)絡(luò)帶寬或磁盤存儲空間。但是,對等網(wǎng)絡(luò)最常見的例子是 Internet 上的文件共享。對等網(wǎng)絡(luò)非常適合文件共享,因?yàn)樗鼈冊试S連接到它們計算機(jī)等同時接收文件和發(fā)送文件。
BitTorrent
?是 P2P 使用的主要協(xié)議。
P2P 網(wǎng)絡(luò)的作用
P2P 網(wǎng)絡(luò)具有一些使它們有用的特征
-
很難完全掉線,即使其中的一個對等方掉線,其他對等方仍在運(yùn)行并進(jìn)行通信。為了使 P2P(對等)網(wǎng)絡(luò)停止工作,你必須關(guān)閉所有對等網(wǎng)絡(luò)。對等網(wǎng)絡(luò)具有很強(qiáng)的可擴(kuò)展性。添加新的對等節(jié)點(diǎn)很容易,因?yàn)槟銦o需在中央服務(wù)器上進(jìn)行任何中央配置。 -
當(dāng)涉及到文件共享時,對等網(wǎng)絡(luò)越大,速度越快。在 P2P 網(wǎng)絡(luò)中的許多對等點(diǎn)上存儲相同的文件意味著當(dāng)某人需要下載文件時,該文件會同時從多個位置下載。
TELNET
TELNET 又稱為遠(yuǎn)程登錄,是一種應(yīng)用層協(xié)議,它為用戶提供了在本地機(jī)器上就能夠操控遠(yuǎn)程主機(jī)工作的能力。例如下面這幅圖所示
主機(jī) A 可以直接通過 TELNET 協(xié)議訪問主機(jī) B。
TELNET 利用 TCP 的一條連接,通過一條連接向主機(jī)發(fā)送文字命令并在主機(jī)上執(zhí)行。
使用 TELNET 協(xié)議進(jìn)行遠(yuǎn)程登錄時需要滿足以下幾個條件
-
必須知道遠(yuǎn)程主機(jī)的 IP 地址或者域名 -
必須知道登錄標(biāo)識和口令
TELNET 遠(yuǎn)程登錄一般使用 23 端口
TELNET 的工作過程如下
-
本地主機(jī)與遠(yuǎn)程主機(jī)建立連接,這個連接其實(shí)是 TCP 連接,用戶需要知道指定主機(jī)的 IP 地址或者域名 -
與遠(yuǎn)程主機(jī)建立連接后,在本地主機(jī)終端上輸入的字符都會以 NVT(Net Virtual Terminal)
的形式發(fā)送至遠(yuǎn)程主機(jī),這個過程實(shí)際上是發(fā)送一個數(shù)據(jù)包到遠(yuǎn)程主機(jī)。 -
遠(yuǎn)程主機(jī)接受數(shù)據(jù)包后,產(chǎn)生的輸出會以 NVT 的格式發(fā)送給本地主機(jī)一個數(shù)據(jù)包,包括輸入命令回顯和命令執(zhí)行結(jié)果 -
最后,本地主機(jī)終端對遠(yuǎn)程主機(jī)撤銷鏈接,這個過程實(shí)際上就是 TCP 斷開連接的過程。
SSH
TELNET 有一個非常明顯的缺點(diǎn),那就是在主機(jī)和遠(yuǎn)程主機(jī)的發(fā)送數(shù)據(jù)包的過程中是明文傳輸,未經(jīng)任何安全加密,這樣的后果是容易被互聯(lián)網(wǎng)上不法分子嗅探到數(shù)據(jù)包來搞一些壞事,為了數(shù)據(jù)的安全性,我們一般使用 SSH
進(jìn)行遠(yuǎn)程登錄。
SSH 是加密的遠(yuǎn)程登錄系統(tǒng)。使用 SSH 可以加密通信內(nèi)容,即使數(shù)據(jù)包被嗅探和抓取也無法破解所包含的信息,除此之外,SSH 還有一些其他功能
-
SSH 可以使用更強(qiáng)的認(rèn)證機(jī)制 -
SSH 可以轉(zhuǎn)發(fā)文件 -
SSH 可以使用端口轉(zhuǎn)發(fā)功能
端口轉(zhuǎn)發(fā)(Port forwarding)
是 SSH 為網(wǎng)絡(luò)安全通信使用的一種方法。SSH 可以利用端口轉(zhuǎn)發(fā)技術(shù)來傳輸其他 TCP/IP 協(xié)議的報文,當(dāng)使用這種方式時,SSH 就為其他服務(wù)在客戶端和服務(wù)器端建立了一條安全的傳輸管道端口轉(zhuǎn)發(fā)是指將特定端口號所收到的消息轉(zhuǎn)發(fā)到指定 IP 地址和端口號的一種機(jī)制。
FTP
FTP(File Transfer Protocol,文件傳輸協(xié)議)
是應(yīng)用層協(xié)議之一。FTP 協(xié)議包括兩個組成部分,分為 FTP 服務(wù)器和 FTP 客戶端。其中 FTP 服務(wù)器用來存儲文件,用戶可以使用 FTP 客戶端通過 FTP 協(xié)議訪問位于 FTP 服務(wù)器上的資源。
由于 FTP 傳輸效率非常高,一般用來在網(wǎng)絡(luò)上傳輸大的文件。
默認(rèn)情況下 FTP 協(xié)議使用 TCP 端口中的 20 和 21 這兩個端口,其中 20 用于傳輸數(shù)據(jù),21 用于傳輸控制信息。FTP TCP 21 端口上進(jìn)行文件傳輸時,每次都會建立一個用于數(shù)據(jù)傳輸?shù)?TCP 連接,數(shù)據(jù)傳輸完畢后,傳輸數(shù)據(jù)的這條連接也會被斷開,在控制用的連接上繼續(xù)進(jìn)行命令或應(yīng)答的處理。
SMTP
提供電子郵件服務(wù)的協(xié)議叫做 SMTP(Simple Mail Transfer Protocol)
, SMTP 在傳輸層也使用了 TCP 協(xié)議。
早期電子郵件是在發(fā)送端主機(jī)和接收端主機(jī)之間直接建立 TCP 連接。發(fā)送方編寫好郵件之后會將郵件保存在磁盤中,然后與接受主機(jī)建立 TCP 連接,將郵件發(fā)送到接受主機(jī)的磁盤中。當(dāng)發(fā)送方把郵件發(fā)送后,再從本地磁盤中刪除郵件。如果接受主機(jī)因?yàn)樘厥馇闆r無法接收,發(fā)送端將等待一段時間后重新發(fā)送。
這種方法雖然能夠保證電子郵件的完整性和有效性,但卻不適合當(dāng)今的互聯(lián)網(wǎng),因?yàn)樵缙诘碾娮余]件只能在線發(fā)送,這種方式顯然不夠成熟。
針對于此,提出了郵件服務(wù)器
的概念。郵件服務(wù)器構(gòu)成了整個郵件系統(tǒng)的核心。每個接收方在其中的郵件服務(wù)器上會有一個郵箱(mailbox)
存在。用戶的郵箱管理和維護(hù)發(fā)送給他的報文。
一個典型的郵件發(fā)送過程是:從發(fā)送方的用戶代理開始,傳輸?shù)桨l(fā)送方的郵件服務(wù)器,再傳輸?shù)浇邮辗降泥]件服務(wù)器,然后在這里被分發(fā)到接收方的郵箱中。用接收方的用戶想要從郵箱中讀取郵件時,他的郵件服務(wù)器會對用戶進(jìn)行認(rèn)證。如果發(fā)送方發(fā)送的郵件無法正確交付給接收方的服務(wù)器,那么發(fā)送方的用戶代理會把郵件存儲在一個報文隊(duì)列(message queue)
中,并在以后嘗試再次發(fā)送,通常每 30 分鐘發(fā)送一次,如果一段時間后還發(fā)送不成功,服務(wù)器就會刪除報文隊(duì)列中的郵件并以電子郵件的方式通知發(fā)送方。
現(xiàn)在你知道了兩臺郵件服務(wù)器郵件發(fā)送的大體過程,那么,SMTP 是如何將郵件從 Alice 郵件服務(wù)器發(fā)送到 Bob 的郵件服務(wù)器的呢?主要分為下面三個階段
-
建立連接
:在這一階段,SMTP 客戶請求與服務(wù)器的25端口建立一個 TCP 連接。一旦連接建立,SMTP 服務(wù)器和客戶就開始相互通告自己的域名,同時確認(rèn)對方的域名。 -
郵件傳送
:一旦連接建立后,就開始郵件傳輸。SMTP 依靠 TCP 能夠?qū)⑧]件準(zhǔn)確無誤地傳輸?shù)浇邮辗降泥]件服務(wù)器中。SMTP 客戶將郵件的源地址、目的地址和郵件的具體內(nèi)容傳遞給 SMTP 服務(wù)器,SMTP 服務(wù)器進(jìn)行相應(yīng)的響應(yīng)并接收郵件。 -
連接釋放
:SMTP 客戶發(fā)出退出命令,服務(wù)器在處理命令后進(jìn)行響應(yīng),隨后關(guān)閉 TCP 連接。
MIME 類型
最一開始,互聯(lián)網(wǎng)中的電子郵件只能處理文本格式,后來也逐漸擴(kuò)展為 MIME 類型,我們上面也簡單提到了一句 MIME 類型,MIME(Multipurpose Internet Mail Extensions)
是用途互聯(lián)網(wǎng)郵件擴(kuò)展類型。
它是一個互聯(lián)網(wǎng)標(biāo)準(zhǔn),擴(kuò)展了電子郵件標(biāo)準(zhǔn),使其能夠支持很多格式,這些格式如下
-
超文本標(biāo)記語言文本 .html text/html -
xml文檔 .xml text/xml -
普通文本 .txt text/plain -
PNG圖像 .png image/png -
GIF圖形 .gif image/gif -
JPEG圖形 .jpeg,.jpg image/jpeg -
AVI 文件 .avi video/x-msvideo 等。
后記
文章涵蓋了許多應(yīng)用層協(xié)議,包括 HTTP、DNS、SMTP、FTP、TELNET 協(xié)議等
這些應(yīng)用層協(xié)議我們在日常工作中都會用到,我們不僅僅是用戶,還是程序員,勢必要對其進(jìn)行了解,我給你畫了一些圖幫助你理解清楚這些協(xié)議,簡化的背后卻是復(fù)雜而艱巨的規(guī)范標(biāo)準(zhǔn)和開發(fā)的復(fù)雜。
特別推薦一個分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長按關(guān)注一下:
長按訂閱更多精彩▼
如有收獲,點(diǎn)個在看,誠摯感謝
免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點(diǎn),不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!