硬核操作系統(tǒng)講解
1 馮諾伊曼體系
1.1 馮諾伊曼體系簡介
現(xiàn)代計算機之父馮諾伊曼最先提出程序存儲的思想,并成功將其運用在計算機的設計之中,該思想約定了用二進制進行計算和存儲,還定義計算機基本結構為 5 個部分,分別是中央處理器(CPU)、內存、輸入設備、輸出設備、總線。
-
存儲器:代碼跟數(shù)據(jù)在RAM跟ROM中是線性存儲, 數(shù)據(jù)存儲的單位是一個二進制位。最小的存儲單位是字節(jié)。
-
總線:總線是用于 CPU 和內存以及其他設備之間的通信,總線主要有三種:
地址總線:用于指定 CPU 將要操作的內存地址。
數(shù)據(jù)總線:用于讀寫內存的數(shù)據(jù)。
控制總線:用于發(fā)送和接收信號,比如中斷、設備復位等信號,CPU 收到信號后響應,這時也需要控制總線。
-
輸入/輸出設備:輸入設備向計算機輸入數(shù)據(jù),計算機經(jīng)過計算后,把數(shù)據(jù)輸出給輸出設備。比如鍵盤按鍵時需要和 CPU 進行交互,這時就需要用到控制總線。
-
CPU:中央處理器,類比人腦,作為計算機系統(tǒng)的運算和控制核心,是信息處理、程序運行的最終執(zhí)行單元。CPU用寄存器存儲計算時所需數(shù)據(jù),寄存器一般有三種:
通用寄存器:用來存放需要進行運算的數(shù)據(jù),比如需進行加法運算的兩個數(shù)據(jù)。
程序計數(shù)器:用來存儲 CPU 要執(zhí)行下一條指令所在的內存地址。
指令寄存器:用來存放程序計數(shù)器指向的指令本身。
在馮諾伊曼體系下電腦指令執(zhí)行的過程:
-
CPU讀取程序計數(shù)器獲得指令內存地址,CPU控制單元操作地址總線從內存地址拿到數(shù)據(jù),數(shù)據(jù)通過數(shù)據(jù)總線到達CPU被存入指令寄存器。
-
CPU分析指令寄存器中的指令,如果是計算類型的指令交給邏輯運算單元,如果是存儲類型的指令交給控制單元執(zhí)行。
-
CPU 執(zhí)行完指令后程序計數(shù)器的值通過自增指向下個指令,比如32位CPU會自增4。
-
自增后開始順序執(zhí)行下一條指令,不斷循環(huán)執(zhí)行直到程序結束。
CPU位寬:32位CPU一次可操作計算4個字節(jié),64位CPU一次可操作計算8個字節(jié),這個是硬件級別的。平常我們說的32位或64位操作系統(tǒng)指的是軟件級別的,指的是程序中指令多少位。
線路位寬:CPU操作指令數(shù)據(jù)通過高低電壓變化進行數(shù)據(jù)傳輸,傳輸時候可以串行傳輸,也可以并行傳輸,多少個并行等于多少個位寬。
1.2 CPU 簡介
Central Processing Unit 中央處理器,作為計算機系統(tǒng)的運算和控制核心,是信息處理、程序運行的最終執(zhí)行單元。
CPU-
CPU核心:一般一個CPU會有多個CPU核心,平常說的多核是指在一枚處理器中集成兩個或多個完整的計算引擎。核跟CPU的關系是:核屬于CPU的一部分。
-
寄存器:最靠近CPU對存儲單元,32位CPU寄存器可存儲4字節(jié),64位寄存器可存儲8字節(jié)。寄存器訪問速度一般是半個CPU時鐘周期,屬于納秒級別,
-
L1緩存:每個CPU核心都有,用來緩存數(shù)據(jù)跟指令,訪問空間大小一般在32~256KB,訪問速度一般是2~4個CPU時鐘周期。
cat /sys/devices/system/cpu/cpu0/cache/index0/size # L1 數(shù)據(jù)緩存 cat /sys/devices/system/cpu/cpu0/cache/index1/size # L1 指令緩存
-
L2緩存:每個CPU核心都有,訪問空間大小在128KB~2MB,訪問速度一般是10~20個CPU時鐘周期。
cat /sys/devices/system/cpu/cpu0/cache/index2/size # L2 緩存容量大小
-
L3緩存:多個CPU核心共用,訪問空間大小在2MB~64MB,訪問速度一般是20~60個CPU時鐘周期。
cat /sys/devices/system/cpu/cpu0/cache/index3/size # L3 緩存容量大小
-
內存:多個CPU共用,現(xiàn)在一般是4G~512G,訪問速度一般是200~300個CPU時鐘周期。
-
固體硬盤SSD:現(xiàn)在臺式機主流都會配備,上述的寄存器、緩存、內存都是斷電數(shù)據(jù)立馬丟失的,而SSD里不會丟失,大小一般是128G~1T,比內存慢10~1000倍。
-
機械盤HDD:很早以前流行的硬盤了,容量可在512G~8T不等,訪問速度比內存慢10W倍不等。
-
訪問數(shù)據(jù)順序:CPU在拿數(shù)據(jù)處理的時候幾乎也是按照上面說得流程來操縱的,只有上面一層找不到才會找下一層。
-
Cache Line: CPU讀取數(shù)據(jù)時會按照 Cache Line 方式把數(shù)據(jù)加載到緩存中,每個Cacheline = 64KB,因為L1、L2是每個核獨有到可能會觸發(fā)偽共享,就是 所以可能會將數(shù)據(jù)劃分到不同到CacheLine中來避免偽共享,比如在JDK8 新增加的 LongAdder 就涉及到此知識點。
偽共享:緩存系統(tǒng)中是以緩存行(cache line)為單位存儲的,當多線程修改互相獨立的變量時,如果這些變量共享同一個緩存行,就會無意中影響彼此的性能,這就是偽共享。
-
JMM: 數(shù)據(jù)經(jīng)過種種分層會導致訪問速度在不斷提升,同時也帶來了各種問題,多個CPU同時操作相同數(shù)據(jù)可能會造成各種BU個,需要加鎖,這里在JUC并發(fā)已詳細探討過。
1.3 CPU 訪問方式
CPU訪問方式內存數(shù)據(jù)映射到CPU Cache 時通過公式Block N % CacheLineMax決定內存Block數(shù)據(jù)放到那個CPU Cache Line 里。CPU Cache 主要有4部分組成。
-
Cache Line Index :CPU緩存讀取數(shù)據(jù)時不是按照字節(jié)來讀取的,而是按照CacheLine方式存儲跟讀取數(shù)據(jù)的。
-
Valid Bit : 有效位標志符,值為0時表示無論 CPU Line 中是否有數(shù)據(jù),CPU 都會直接訪問內存,重新加載數(shù)據(jù)。
-
Tag:組標記,用來標記內存中不同BLock映射到相同CacheLine,用Tag來區(qū)分不同的內存Block。
-
Data:真實到內存數(shù)據(jù)信息。
CPU真實訪問內存數(shù)據(jù)時只需要指定三個部分即可。
-
Cache Line Index :要訪問到Cache Line 位置。
-
Tag:表示用那個數(shù)據(jù)塊。
-
Offset:CPU從CPU Cache 讀取數(shù)據(jù)時不是直接讀取Cache Line整個數(shù)據(jù)塊,而是讀取CPU所需的數(shù)據(jù)片段,稱為Word。如何找到Word就需要個偏移量Offset。
1.4 CPU 訪問速度
訪問耗時對比如上圖所示,CPU訪問速度是逐步變慢,所以CPU訪問數(shù)據(jù)時需盡量在距離CPU近的高速緩存區(qū)訪問,根據(jù)摩爾定律CPU訪問速度每18個月就會翻倍,而內存的訪問每18個月也就增長10% 左右,導致的結果就是CPU跟內存訪問性能差距逐步變大,那如何盡可能提高CPU緩存命中率呢?
1.數(shù)據(jù)緩存:遍歷數(shù)據(jù)時候按照內存布局順序訪問,因為CPU Cache是根據(jù)Cache Line批量操作數(shù)據(jù)的,所以你順序讀取數(shù)據(jù)會提速,道理跟磁盤順序寫一樣。
-
指令緩存:盡可能的提供有規(guī)律的條件分支語句,讓 CPU 的分支預測器發(fā)揮作用,進一步提高執(zhí)行的效率,因為CPU是自帶分支預測器,自動提前將可能需要的指令放到指令緩存區(qū)。
-
線程綁定到CPU:一個任務A在前一個時間片用CPU核心1 運行,后一個時間片用CPU核心2 運行,這樣緩存L1、L2就浪費了。因此操作系統(tǒng)提供了將進程或者線程綁定到某一顆 CPU 上運行的能力。如 Linux 上提供了 sched_setaffinity 方法實現(xiàn)這一功能,其他操作系統(tǒng)也有類似功能的 API 可用。當多線程同時執(zhí)行密集計算,且 CPU 緩存命中率很高時,如果將每個線程分別綁定在不同的 CPU 核心上,性能便會獲得非??捎^的提升。
1.5 操作系統(tǒng)
計算機結構有了馮諾伊曼計算機體系后,電腦想要為用戶提供便捷的服務還需要安裝個操作系統(tǒng)Operation System,操作系統(tǒng)是覆蓋在硬件上的一層特殊軟件,它管理計算機的硬件和軟件資源,為其他應用程序提供大量服務??梢岳斫鉃椴僮飨到y(tǒng)是日常應用程序跟硬件之間的接口。日常你經(jīng)常在用Windows/Linux 系統(tǒng),操作系統(tǒng)給我們提供了超級大的便利,但是你了解操作系統(tǒng)么?操作系統(tǒng)是如何進行 內存管理、 進程管理、 文件管理、 輸入輸出管理的呢?
2 內存管理
你的電腦是32位操作系統(tǒng),那可支持的最大內存就是4G,你有沒有好奇為什么可以同時運行2個以上的2G內存的程序。應用程序不是直接使用的物理地址,操作系統(tǒng)為每個運行的進程分配了一套虛擬地址,每個進程都有自己的虛擬內存地址,進程是無法直接進行物理內存地址的訪問的。至于虛擬地址跟物理地址的映射,進程是感知不到的!操作系統(tǒng)自身會提供一套機制將不同進程的虛擬地址和不同內存的物理地址進行映射。
虛擬內存2.1 MMU
Memory Management Unit 內存管理單元是一種負責處理CPU內存訪問請求的計算機硬件。它的功能包括虛擬地址到物理地址的轉換、內存保護、中央處理器高速緩存的控制?,F(xiàn)代 CPU 基本上都選擇了使用 MMU。
當進程持有虛擬內存地址的時候,CPU執(zhí)行該進程時會操作虛擬內存,而MMU會自動的將虛擬內存的操作映射到物理內存上。
MMU這里提一下,Java操作的時候你看到的地址是JVM地址,不是真正的物理地址。
2.2 內存管理方式
操作系統(tǒng)主要采用內存分段和內存分頁來管理虛擬地址與物理地址之間的關系,其中分段是很早前的方法了,現(xiàn)在大部分用的是分頁,不過分頁也不是完全的分頁,是在分段的基礎上再分頁。
2.2.1 內存分段
JVM內存模型我們以上圖的JVM內存模型舉例,程序員會認為我們的代碼是由代碼段、數(shù)據(jù)段、棧段、堆段組成。不同的段是有不同的屬性的,用戶并不關心這些元素所在內存的位置,而分段就是支持這種用戶視圖的內存管理方案。邏輯地址空間是由一組段構成。每個段都有名稱和長度。地址指定了段名稱和段內偏移。因此用戶段編號和段偏移來指定不同屬性的地址。而虛擬內存地址跟物理內存地址中間是通過段表進行映射的,口說無憑,看圖吧。
內存分段管理如上虛擬地址有 5 個段,各段按如圖所示來存儲。每個段都在段表中有一個條目,它包括段在物理內存內的開始的基地址和該段的界限長度。例如段 2 為 400 字節(jié)長,開始于位置 4300。因此對段 2 字節(jié) 53 的引用映射成位置 4300 + 53 = 4353。對段 3 字節(jié) 852 的引用映射成位置 3200 + 852 = 4052。
分段映射很簡單,但是會導致內存碎片跟內存交互效率低。這里先普及下在內存管理中主要有內部內存碎片跟外部內存碎片。
-
內部碎片:已經(jīng)被分配出去的的內存空間不經(jīng)常使用,并且分配出去的內存空間大于請求所需的內存空間。
-
外部碎片:指可用空間還沒有分配出去,但是可用空間由于大小太小而無法分配給申請空間的新進程的內存空間空閑塊。
以上圖為例,現(xiàn)在系統(tǒng)空閑是1400 + 800 + 600 = 2800。那如果有個程序想要連續(xù)的使用2000,內存分段模式下提供不了??!上述三個是外部內存碎片。當然可以使用系統(tǒng)的Swap空間,先把段0寫入到磁盤,然后再重新給段0分配空間。這樣可以實現(xiàn)最終可用,可是但凡涉及到磁盤讀寫就會導致內存交互效率低。
swap空間利用2.2.2 內存分頁
內存分頁,整個虛擬內存和物理內存切成一段段固定尺寸的大小。每個固定大小的尺寸稱之為頁Page,在 Linux 系統(tǒng)中Page = 4KB。然后虛擬內存跟物理內存之間通過頁表來實現(xiàn)映射。
采用內存分頁時內存的釋放跟使用都是以頁為單位的,也就不會產(chǎn)生內存碎片了。當空間還不夠時根據(jù)操作系統(tǒng)調度算法,可能將最少用的內存頁面 swap-out換出到磁盤,用時候再swap-in換入,盡可能的減少磁盤刷寫量,提高內存交互效率。
分頁模式下虛擬地址主要有頁號跟頁內偏移量兩部分組成。通過頁號查詢頁表找到物理內存地址,然后再配合頁內偏移量就找到了真正的物理內存地址。
分頁內存尋址32位操作系統(tǒng)環(huán)境下進程可操作的虛擬地址是4GB,假設一個虛擬頁大小為4KB,那需要4GB/4KB =2^20個頁信息。一行頁表記錄為4字節(jié),2^20等價于4MB頁表存儲信息。這只是一個進程需要的,如果10個、100個、1000個呢?僅僅是頁表存儲都占據(jù)超大內存了。
為了解決這個問題就需要用到多級頁表,核心思想就是局部性分配。在32位的操作系統(tǒng)中將將4G空間分為 1024 行頁目錄項目(4KB),每個頁目錄項又對應1024行頁表項。如下圖所示:
32位系統(tǒng)二級分頁控制寄存器cr3中存放了頁目錄的物理地址,通過cr3寄存器可以找到頁目錄,而32位線性地址中的Directory部分決定頁目錄中的目錄項,而頁目錄項中存放了要找的頁表的物理基地址,再結合線性地址中的中間10位頁表項,就可以找到頁框的頁表項。線性地址中的Offset部分占12位,因此頁框的物理地址 + 線性地址Offset部分 = 頁框中的任何一個字節(jié)。
分頁后一級頁就等價于4G虛擬地址空間,并且如果一級頁表中那些地址沒有就不需要再創(chuàng)建二級頁表了!核心思想就是按需創(chuàng)建,當系統(tǒng)給每個進程分配4G空間,進程不可能占據(jù)全部內存的,如果一級目錄頁只有10%用到了,此時頁表空間 = 一級頁表4KB + 0.1 * 4MB 。這比單獨的每個進程占據(jù)4M好用多了!
多層分頁的弊端就是訪問時間的增加。
-
使用頁表時讀取內存中一頁內容需要2次訪問內存,訪問頁表項 + 并讀取的一頁數(shù)據(jù)。
-
使用二級頁表的話需要三次訪問,訪問頁目錄項 + 訪問頁表項 + 訪問并讀取的一頁數(shù)據(jù)。訪存次數(shù)的增加也就意味著訪問數(shù)據(jù)所花費的總時間增加。
而對于64位系統(tǒng),二級分頁就無法滿足了,Linux 從2.6.11開始采用四級分頁模型。
-
Page Global Directory 全局頁目錄項
-
Page Upper Directory 上層頁目錄項
-
Page Middle Directory 中間頁目錄項
-
Page Table Entry 頁表項
-
Offset 偏移量。
2.2.2 TLB
Translation Lookaside Buffer 可翻譯為地址轉換后援緩沖器,簡稱為快表,屬于CPU內部的一個模塊,TLB是MMU的一部分,實質是cache,它所緩存的是最近使用的數(shù)據(jù)的頁表項(虛擬地址到物理地址的映射)。他的出現(xiàn)是為了加快訪問數(shù)據(jù)(內存)的速度,減少重復的頁表查找。當然它不是必須要有的,但有它,速度就更快。
TLBTLB很小,因此緩存的東西也不多。主要緩存最近使用的數(shù)據(jù)的數(shù)據(jù)映射。TLB結構如下圖: TLB查詢
如果一個需要訪問內存中的一個數(shù)據(jù),給定這個數(shù)據(jù)的虛擬地址,查詢TLB,發(fā)現(xiàn)有hit,直接得到物理地址,在內存根據(jù)物理地址取數(shù)據(jù)。如果TLB沒有這個虛擬地址miss,那么只能費力的通過頁表來查找了。日常CPU讀取一個數(shù)據(jù)的流程如下:
CPU讀取數(shù)據(jù)流程圖
當進程地址空間進行了上下文切換時,比如現(xiàn)在是進程1運行,TLB中放的是進程1的相關數(shù)據(jù)的地址,突然切換到進程2,TLB中原有的數(shù)據(jù)不是進程2相關的,此時TLB刷新數(shù)據(jù)有兩種辦法。
-
全部刷新:很簡單,但花銷大,很多不必刷新的數(shù)據(jù)也進行刷新,增加了無畏的花銷。
-
部分刷新:根據(jù)標志位,刷新需要刷新的數(shù)據(jù),保留不需要刷新的數(shù)據(jù)。
2.2.3 段頁式管理
內存分段跟內存分頁不是對立的,這倆可以組合起來在同一個系統(tǒng)中使用的,那么組合起來后通常稱為段頁式內存管理。段頁式內存管理實現(xiàn)的方式:
-
先對數(shù)據(jù)不同劃分出不同的段,也就是前面說的分段機制。
-
然后再把每一個段進行分頁操作,也就是前面說的分頁機制。
-
此時 地址結構 = 段號 + 段內頁號 + 頁內位移。
每一個進程有一張段表,每個段又建立一張頁表,段表中的地址是頁表的起始地址,而頁表中的地址則為某頁的物理頁號。
段頁式管理同時我們經(jīng)??吹絻蓚€專業(yè)詞邏輯地址跟線性地址。
-
邏輯地址:指的是沒被段式內存管理映射的地址。
-
線性地址:通過段式內存管理映射且頁式內存管理轉換前的地址,俗稱虛擬地址。
目前 Intel X86 CPU 采用的是內存分段 + 內存分頁的管理方式,其中分頁的意思是在由段式內存管理所映射而成的的地址上再加上一層地址映射。
X86內存管理方式2.2.4 Linux 內存管理
先說結論:Linux系統(tǒng)基于X86 CPU 而做的操作系統(tǒng),所以也是用的段頁式內存管理方式。
我們知道32位的操作系統(tǒng)可尋址范圍是4G,操作系統(tǒng)會將4G的可訪問內存空間分為 用戶空間跟 內核空間。
-
內核空間:操作系統(tǒng)內核訪問的區(qū)域,獨立于普通的應用程序,是受保護的內存空間。內核態(tài)下CPU可執(zhí)行任何指令,可自由訪問任何有效地址。
-
用戶空間:普通應用程序可訪問的內存區(qū)域。被執(zhí)行代碼會受到CPU眾多限制,進程只能訪問映射其地址空間的頁表項中規(guī)定的在用戶態(tài)下可訪問頁面的虛擬地址。
那為啥要搞倆空間呢?現(xiàn)在嵌入式環(huán)境跟以前的WIN98系統(tǒng)是沒有區(qū)分倆空間的,須知倆空間是CPU分的,而操作系統(tǒng)是在上面運行的,單一用戶、單一任務服務的操作系統(tǒng),是沒有分所謂用戶態(tài)和內核態(tài)的必要。用戶態(tài)和內核態(tài)是因為有多用戶,多任務的需求,然后在CPU硬件廠商配合之后,產(chǎn)生的一個操作系統(tǒng)解決多用戶多任務需求的方案。方案就是限制,通過硬件手段(也只能硬件手段才能做到),限制某些代碼,使其無法控制整個物理硬件,進而使各個不同用戶,不同任務的代碼,無權修改整個物理硬件,再進而保護操作系統(tǒng)的核心底層代碼和其他用戶的數(shù)據(jù)不被無意或者有意地破壞和盜取。
后來研究者根據(jù) CPU的運行級別,分成了Ring0~Ring3四個級別。Ring0是最高級別,Ring1次之,Rng2更次之,拿Linux+x86來說, 操作系統(tǒng)內核的代碼運行在最高運行級別Ring0上,可以使用特權指令,控制中斷、修改頁表、訪問設備等。 應用程序的代碼運行在最低運行級別上Ring3上,不能做受控操作,只能訪問用戶被分配的空間。如果要做訪問磁盤跟寫文件等操作,那就要通過執(zhí)行系統(tǒng)調用函數(shù),執(zhí)行系統(tǒng)調用的時候,CPU的運行級別會發(fā)生從Ring3到Ring0的切換,并跳轉到系統(tǒng)調用對應的內核代碼位置執(zhí)行,這樣內核就為你完成了設備訪問,完成之后再從Ring0返回Ring3。這個過程也稱作 用戶態(tài)和內核態(tài)的切換。
用戶態(tài)想要使用計算機設備或IO需通過系統(tǒng)調用完成sys call,系統(tǒng)調用就是讓內核來做這些操作。而系統(tǒng)調用是影響整個當前進程上下文的,CPU提供了個軟中斷來是實現(xiàn)保護線程,獲取系統(tǒng)調用號跟參數(shù),交給內核對應系統(tǒng)調用函數(shù)執(zhí)行。
Linux系統(tǒng)結構可以看到每個應用程序都各自有獨立的虛擬內存地址,但每個虛擬內存中對應的內核地址其實是相同的一大塊,這樣當進程切換到內核態(tài)后可以很方便地訪問內核空間內存。比如Java代碼創(chuàng)建線程new Thread調用start方法后跟蹤JVM源碼你會發(fā)現(xiàn)是調用pthread_create來創(chuàng)建線程的,這就涉及到了用戶態(tài)到內核態(tài)的切換。
3 進程管理
3.1 進程基礎知識
進程是程序的一次執(zhí)行,是一個程序及其數(shù)據(jù)在機器上順序執(zhí)行時所發(fā)生的活動,是具有獨立功能的程序在一個數(shù)據(jù)集合上的一次運行過程,是系統(tǒng)進行資源分配和調度的一個基本單位。進程的調度狀態(tài)如下:
狀態(tài)變化圖重點說下掛起跟阻塞:
-
阻塞一般是當系統(tǒng)執(zhí)行IO操作時,此時進程進入阻塞狀態(tài),等待某個事件的返回。
-
掛起是指進程沒有占有物理內存,被寫到磁盤上了。這時進程狀態(tài)是掛起狀態(tài)。
阻塞掛起:進程被寫入硬盤并等待某個事件的出現(xiàn)。
就緒掛起:進程被寫入硬盤,進入內存可直接進入就緒狀態(tài)。
3.2 PCB
為了描述跟控制進程的運行,系統(tǒng)為每個進程定義了一個數(shù)據(jù)結構——進程控制塊 Process Control Block,它是進程實體的一部分,是操作系統(tǒng)中最重要的記錄型數(shù)據(jù)結構。
PCB 的作用是使一個在多道程序環(huán)境下不能獨立運行的程序,成為一個能獨立運行的基本單位,一個能與其它進程并發(fā)執(zhí)行的進程 :
-
作為獨立運行基本單位的標志
-
實現(xiàn)間斷性的運行方式
-
提供進程管理所需要的信息
-
提供進程調度所需要的信息
-
實現(xiàn)與其他進程的同步與通信
3.2.1 PCB 信息
PCB為實現(xiàn)上述功能,內部包含眾多信息:
-
進程標識符:用于唯一地標識一個進程,一個進程通常有兩種標識符:
內部進程標識符:標識各個進程,每個進程都有一個并且唯一的標識符,設置內部標識符主要是為了方便系統(tǒng)使用。
外部進程標識符:它由創(chuàng)建者提供,可設置用戶標識,以指示擁有該進程的用戶。往往是由用戶進程在訪問該進程時使用。一般為了描述進程的家族關系,還應設置父進程標識及子進程標識。
-
處理機狀態(tài):由各種寄存器組成。包含許多信息都放在寄存器中,方便程序restart。
通用寄存器、指令計數(shù)器、程序狀態(tài)字PSW、用戶棧指針等信息。
-
進程調度信息
進程狀態(tài):指明進程的當前狀態(tài),作為進程調度和對換時的依據(jù)。
進程優(yōu)先級:用于描述進程使用處理機的優(yōu)先級別的一個整數(shù),優(yōu)先級高的進程應優(yōu)先獲得處理機
進程調度所需的其它信息:與所采用的進程調度算法有關,如進程已等待CPU的時間總和、進程已執(zhí)行的時間總和等。
事件:指進程由執(zhí)行狀態(tài)轉變?yōu)樽枞麪顟B(tài)所等待發(fā)生的事件,即阻塞原因。
-
資源清單
有關內存地址空間或虛擬地址空間的信息,所打開文件的列表和所使用的 I/O 設備信息。
3.2.2 PCB 組織方式
操作系統(tǒng)中有太多 PCB,如何管理是個問題,一般有如下方式。
線下數(shù)組-
線性方式:
索引方式
將系統(tǒng)所有PCB都組織在一張線性表中,將該表首地址存在內存的一個專用區(qū)域
實現(xiàn)簡單,開銷小,但是每次都需要掃描整張表,適合進程數(shù)目不多的系統(tǒng)
-
索引方式:
鏈表方式
將同一狀態(tài)的進程組織在一個索引表中,索引表項指向相應的 PCB,不同狀態(tài)對應不同的索引表。
-
鏈接方式:
把同一狀態(tài)的PCB鏈接成一個隊列,形成就緒隊列、阻塞隊列、空白隊列等。對其中的就緒隊列常按進程優(yōu)先級的高低排列,優(yōu)先級高排在隊前。
因為進程創(chuàng)建、銷毀、調度頻繁,所以一般采用此模式。
3.3 進程控制
進程控制是進程管理最基本的功能,主要包括創(chuàng)建新進程,終止已完成的進程,將發(fā)生異常的進程置于阻塞狀態(tài),將進程喚醒等。
3.3.1 進程創(chuàng)建
父進程可創(chuàng)建子進程,父進程終止后子進程也會被終止。子進程可繼承父進程所有資源,子進程終止需將自己所繼承的資源歸還父進程。接下來看下創(chuàng)建的大致流程。
-
為新進程分配唯一進件標識號,然后創(chuàng)建一個空白PCB,需注意PCB數(shù)量是有限的,所以可能會創(chuàng)建失敗。
-
嘗試為新進程分配所需資源,如果資源不足進程會進入等待狀態(tài)。
-
初始化PCB,有如下幾個操作。
標識信息:將系統(tǒng)分配的標識符和父進程標識符填入新PCB
處理機狀態(tài)信息:使程序計數(shù)器指向程序入口地址,使棧指針指向棧頂
處理機控制信息:將進程設為就緒/靜止狀態(tài),通常設為最低優(yōu)先級
-
如果進程調度隊列能接納新進程,就將進程插入到就緒隊列,等待被調度運行。
3.3.2 進程終止
進程終止情況一般分為正常結束、異常結束、外界干預三種。
-
正常結束
-
異常結束
越界錯:訪問的存儲區(qū)越出該進程的區(qū)域
保護錯:試圖訪問不允許訪問的資源,或以不適當?shù)姆绞皆L問(寫只讀)
非法指令:試圖執(zhí)行不存在的指令(可能是程序錯誤地轉移到數(shù)據(jù)區(qū),數(shù)據(jù)當成了指令)
特權指令出錯:用戶進程試圖執(zhí)行一條只允許OS執(zhí)行的指令
運行超時:執(zhí)行時間超過指定的最大值
等待超時:進程等待某件事超過指定的最大值
算數(shù)運算錯:試圖執(zhí)行被禁止的運算(被0除)
I/O故障
-
外界干預
操作員或OS干預(死鎖)
父進程請求,子進程完成父進程指定的任務時
父進程終止,所有子進程都應該結束
終止過程:
-
根據(jù)被終止進程的標識符,從PCB集合中檢索出該PCB,讀取進程狀態(tài)
-
若處于執(zhí)行狀態(tài)則立即終止執(zhí)行,將CPU資源分配給其他進程。
-
若進程有子孫進程則將其所有子孫進程終止。
-
全部資源還給父進程或操作系統(tǒng)。
-
該進程的PCB從所在隊列/鏈表中移出。
3.3.3 進程阻塞
意思是該進程執(zhí)行半路被阻塞,必須由某個事件進程喚醒該進程。常見的就是IO讀取操作。常見阻塞時機/事件如下:
-
請求共享資源失敗,系統(tǒng)無足夠資源分配
-
等待某種操作完成
-
新數(shù)據(jù)尚未到達(相互合作的進程)
-
等待新任務
阻塞流程:
-
找到要被阻塞進程標識號對應的 PCB。
-
將該進程由運行狀態(tài)轉換為阻塞狀態(tài)。
-
將該 進程PCB 插入的阻塞隊列中去。
3.3.4 進程喚醒
喚醒 原語 wake up,一般和阻塞成對使用。喚醒過程如下:
-
從阻塞隊列找到所需PCB。
-
PCB從阻塞隊列溢出,然后變?yōu)榫途w狀態(tài)。
-
從阻塞隊列溢出該PCB然后插入到就緒狀態(tài)隊列等待被分配CPU資源。
3.4 進程調度
進程數(shù)一般會大于CPU個數(shù),進程狀態(tài)切換主要由調度程序進行調度。一般情況下CPU調度時主要分為搶占式調度跟非搶占式調度。
-
非搶占式:讓進程運行直到結束或阻塞的調度方式, 容易實現(xiàn),適合專用系統(tǒng)。
-
搶占式:每個進程獲得時間片才可以被CPU調度運行, 可防止單一進程長時間獨占CPU 系統(tǒng)開銷大。
3.4.1 進程調度原則
-
CPU 利用率
CPU利用率 = 忙碌時間 / 總時間。
調度程序應該盡量讓 CPU 始終處于忙碌的狀態(tài),這可提高 CPU 的利用率。比如當發(fā)生IO讀取時候,不要傻傻等待,去執(zhí)行下別的進程。
-
系統(tǒng)吞吐量
系統(tǒng)吞吐量 = 總共完成多少個作業(yè) / 總共花費時間。
長作業(yè)的進程會占用較長的 CPU 資源導致降低吞吐量,相反短作業(yè)的進程會提升系統(tǒng)吞吐量。
-
周轉時間
周轉時間 = 作業(yè)完成時間 - 作業(yè)提交時間。
平均周轉時間 = 各作業(yè)周轉時間和 / 作業(yè)數(shù)
帶權周轉時間 = 作業(yè)周轉時間 / 作業(yè)實際運行時間
平均帶權周轉時間 = 各作業(yè)帶權周轉時間之和 / 作業(yè)數(shù)
盡可能使周轉時間降低。
-
等待時間
指的是進程在等待隊列中等待的時間,一般也需要盡可能短。
響應時間
響應時間 = 系統(tǒng)第一次響應時間 - 用戶提交時間,在交互式系統(tǒng)中響應時間是衡量調度算法好壞的主要標準。
3.4.2 調度算法
FCFS 算法
-
First Come First Severd 先來先服務算法,遵循先來后端原則,每次從就緒隊列拿等待時間最久的,運行完畢后再拿下一個。
-
該模式對長作業(yè)有利,適用 CPU 繁忙型作業(yè)的系統(tǒng),不適用 I/O 型作業(yè),因為會導致進程CPU利用率很低。
SJF 算法
-
Shortest Job First 最短作業(yè)優(yōu)先算法,該算法會優(yōu)先選擇運行所需時間最短的進程執(zhí)行,可提高吞吐量。
-
跟FCFS正好相反,對長作業(yè)很不利。
SRTN 算法
-
Shortest Remaining Time Next 最短剩余時間優(yōu)先算法,可以認為是SJF的搶占式版本,當一個新就緒的進程比當前運行進程具有更短完成時間時,系統(tǒng)搶占當前進程,選擇新就緒的進程執(zhí)行。
-
有最短的平均周轉時間,但不公平,源源不斷的短任務到來,可能使長的任務長時間得不到運行。
HRRN 算法
-
Highest Response Ratio Next 最高響應比優(yōu)先算法,為了平衡前面?zhèn)z而生,按照響應優(yōu)先權從高到低依次執(zhí)行。屬于前面?zhèn)z的折中權衡。
-
優(yōu)先權 = (等待時間 + 要求服務時間) / 要求服務時間
RR 算法
-
Round Robin 時間片輪轉算法,操作系統(tǒng)設定了個時間片Quantum,時間片導致每個進程只有在該時間片內才可以運行,這種方式導致每個進程都會均勻的獲得執(zhí)行權。
-
時間片一般20ms~50ms,如果太小會導致系統(tǒng)頻繁進行上下文切換,太大又可能引起對短的交互請求的響應變差。
HPF 算法
-
Highest Priority First 最高優(yōu)先級調度算法,從就緒隊列中選擇最高優(yōu)先級的進程先執(zhí)行。
-
優(yōu)先級的設置有初始化固定死的那種,也有在代碼運轉過程中根據(jù)等待時間或性能動態(tài)調整 這兩種思路。
-
缺點是可能導致低優(yōu)先級的一直無法被執(zhí)行。
MFQ 算法
-
Multilevel Feedback Queue 多級反饋隊列調度算法 ,可以認為是 RR 算法 跟 HPF 算法 的綜合體。
-
系統(tǒng)會同時存在多個就緒隊列,每個隊列優(yōu)先級從高到低排列,同時優(yōu)先級越高獲得是時間片越短。
-
新進程會先加入到最高優(yōu)先級隊列,如果新進程優(yōu)先級高于當前在執(zhí)行的進程,會停止當前進程轉而去執(zhí)行新進程。新進程如果在時間片內沒執(zhí)行完畢需下移到次優(yōu)先級隊列。
多級反饋隊列調度算法
3.5 線程
3.5.1 線程定義
早期操作系統(tǒng)是沒有線程概念的,線程是后來加進來的。為啥會有線程呢?那是因為以前在多進程階段,經(jīng)常會涉及到進程之間如何通訊,如何共享數(shù)據(jù)的問題。并且進程關聯(lián)到PCB的生命周期,管理起來開銷較大。為了解決這個問題引入了線程。
線程是進程當中的一個執(zhí)行流程。同一個進程內的多個線程之間可以共享進程的代碼段、數(shù)據(jù)段、打開的文件等資源。同時每個線程又都有一套獨立的寄存器和棧來確保線程的控制流是獨立的。
進程有個PCB來管理,同理操作系統(tǒng)通過Thread Control Block線程控制塊來實現(xiàn)線程的管控。
3.5.2 線程優(yōu)缺點
優(yōu)點
-
一個進程中可以同時存在1~N個線程,這些線程可以并發(fā)的執(zhí)行。
-
各個線程之間可以共享地址空間和文件等資源。
缺點
-
當進程中的一個線程奔潰時,會導致其所屬進程的所有線程奔潰。
-
多線程編程,讓人頭大的東西。
-
線程執(zhí)行開銷小,但不利于資源的隔離管理和保護,而進程正相反。
3.5.3 進程跟線程關聯(lián)
進程:
-
是系統(tǒng)進行資源分配和調度的一個獨立單位.
-
是程序的一次執(zhí)行,每個進程都有自己的地址空間、內存、數(shù)據(jù)棧及其他輔助記錄運行軌跡的數(shù)據(jù)
線程:
-
是進程的一個實體,是CPU調度和分派的基本單位,它是比進程更小的能獨立運行的基本單位
-
所有的線程運行在同一個進程中,共享相同的運行資源和環(huán)境
-
線程一般是并發(fā)執(zhí)行的,使得實現(xiàn)了多任務的并行和數(shù)據(jù)共享。
進程線程區(qū)別:
-
一個線程只能屬于一個進程,而一個進程可以有多個線程,但至少有一個線程。
-
線程的劃分尺度小于進程(資源比進程少),使得多線程程序的并發(fā)性高。
-
進程在執(zhí)行過程中擁有獨立的內存單元,而多個線程共享內存,從而極大地提高了程序的運行效率。
-
資源分配給進程,同一進程的所有線程共享該進程的所有資源。
-
CPU分配資源給進程,但真正在CPU上運行的是線程。
-
線程不能夠獨立執(zhí)行,必須依存在進程中。
線程快在哪兒?
-
線程創(chuàng)建的時有些資源不需要自己管理,直接從進程拿即可,線程管理寄存器跟棧的生命周期即可。
-
同進程內多線程共享數(shù)據(jù),所以進程數(shù)據(jù)傳輸可以用zero copy技術,不需要經(jīng)過內核了。
-
進程使用一個虛擬內存跟頁表,然后多線程共用這些虛擬內存,如果同進程內兩個線程進行上下文切換比進程提速很多。
3.5.4 線程實現(xiàn)
在前面的內存管理中說到了內核態(tài)跟用戶態(tài)。相對應的線程的創(chuàng)建也分為用戶態(tài)線程跟內核態(tài)線程。
3.5.4.1 用戶態(tài)線程
在用戶空間實現(xiàn)的線程,由用戶態(tài)的線程庫來完成線程的管理。操作系統(tǒng)按進程維度進行調度,當線程在用戶態(tài)創(chuàng)建時應用程序在用戶空間內要實現(xiàn)線程的創(chuàng)建、維護和調度。操作系統(tǒng)對線程的存在一無所知!操作系統(tǒng)只能看到進程看不到線程。所有的線程都是在用戶空間實現(xiàn)。在操作系統(tǒng)看來,每一個進程只有一個線程。
用戶態(tài)線程好處:
-
及時操作系統(tǒng)不支持線程模式也可以通過用戶層庫函數(shù)來支持線程模式,TCB 由用戶級線程庫函數(shù)來維護。
-
使用庫函數(shù)模式實現(xiàn)線程可以避免用戶態(tài)到內核態(tài)的切換。
壞處:
-
CPU不知道線程存在,CPU的時間片切換是以進程為維度的,某個線程因為IO等操作導致線程阻塞,操作系統(tǒng)會阻塞整個進程,即使這個進程中其它線程還在工作。
-
用戶態(tài)線程沒法打斷正在運行中的線程,除非線程主動交出CPU使用權。
3.5.4.2 內核態(tài)線程
在內核中實現(xiàn)的線程,是由內核管理的線程,線程對應的 TCB 在操作系統(tǒng)里,這樣線程的創(chuàng)建、終止和管理都是由操作系統(tǒng)負責。內線程模式下一個用戶線程對應一個內核線程。
內核態(tài)線程注意:Linux中的JVM從1.2版以后是基于pthread實現(xiàn)的,所以現(xiàn)在Java中線程的本質就是操作系統(tǒng)中的線程。
優(yōu)點:
-
一個進程中某個線程阻塞不會影響其他內核線程運行。
-
用戶態(tài)模式一個時間片分給多個線程,內核態(tài)模式直接分配給線程的時間片增加。
缺點:
-
內核級線程調度開銷較大。調度內核線程的代價可能和調度進程差不多昂貴,代價要比用戶級線程大很多。一個線程默認棧=1M,線程多了會導致內存消耗很大。
-
線程表是存放在操作系統(tǒng)固定的表格空間或者堆??臻g里,所以內核級線程的數(shù)量是有限的。
3.4.4.3 輕量級進程
最初的進程定義都包含程序、資源及其執(zhí)行三部分,其中程序通常指代碼,資源在操作系統(tǒng)層面上通常包括內存資源、IO資源、信號處理等部分,而程序的執(zhí)行通常理解為執(zhí)行上下文,包括對CPU的占用,后來發(fā)展為線程。在線程概念出現(xiàn)以前,為了減小進程切換的開銷,操作系統(tǒng)設計者逐漸修正進程的概念,逐漸允許將進程所占有的資源從其主體剝離出來,允許某些進程共享一部分資源,例如文件、信號,數(shù)據(jù)內存,甚至代碼,這就發(fā)展出輕量進程的概念。
Light-weight process 輕量級進程是內核支持的用戶線程,它是基于內核線程的高級抽象,系統(tǒng)只有先支持內核線程才能有 LWP。一個進程可有1~N個LWP,每個 LWP 是跟內核線程一對一映射的,也就是 LWP 都是由一個內核線程支持。
LWP模式輕量級進程本質還是進程,只是跟普通進程相比LWP跟其他進程共享大部分邏輯地址空間跟系統(tǒng)資源,LWP輕量體現(xiàn)在它只有一個最小的執(zhí)行上下文和調度程序所需的統(tǒng)計信息。他是進程的執(zhí)行部分,只帶有執(zhí)行相關的信息。
Linux特性:
-
Linux中沒有真正的線程,因為Linux并沒有為線程準備特定的數(shù)據(jù)結構。在內核看來只有進程而沒有線程,在調度時也是當做進程來調度。Linux所謂的線程其實是與其他進程共享資源的進程。但windows中確實有線程。
-
Linux中沒有的線程,線程是由進程來模擬實現(xiàn)的。
-
所以在Linux中在CPU角度看,進程被稱作輕量級進程LWP。
3.5.5 協(xié)程
3.5.5.1 協(xié)程定義
大多數(shù)web服務跟互聯(lián)網(wǎng)服務本質上大部分都是 IO 密集型服務,IO 密集型服務的瓶頸不在CPU處理速度,而在于盡可能快速的完成高并發(fā)、多連接下的數(shù)據(jù)讀寫。以前有兩種解決方案:
-
多進程:存在頻繁調度切換問題,同時還會存在每個進程資源不共享的問題,需要額外引入進程間通信機制來解決。
-
多線程:高并發(fā)場景的大量 IO 等待會導致多線程被頻繁掛起和切換,非常消耗系統(tǒng)資源,同時多線程訪問共享資源存在競爭問題。
此時協(xié)程出現(xiàn)了,協(xié)程 Coroutines 是一種比線程更加輕量級的微線程。類比一個進程可以擁有多個線程,一個線程也可以擁有多個協(xié)程??梢院唵蔚陌褏f(xié)程理解成子程序調用,每個子程序都可以在一個單獨的協(xié)程內執(zhí)行。
協(xié)程協(xié)程運行在線程之上,當一個協(xié)程執(zhí)行完成后,可以選擇主動讓出,讓另一個協(xié)程運行在當前線程之上。 協(xié)程并沒有增加線程數(shù)量,只是在線程的基礎之上通過分時復用的方式運行多個協(xié)程,而且協(xié)程的切換在用戶態(tài)完成,切換的代價比線程從用戶態(tài)到內核態(tài)的代價小很多,一般在Python、Go中會涉及到協(xié)程的知識,尤其是現(xiàn)在高性能的腳本Go。
3.5.5.2 協(xié)程注意事項
協(xié)程運行在線程之上,并且協(xié)程調用了一個阻塞IO操作,此時操作系統(tǒng)并不知道協(xié)程的存在,它只知道線程,因此在協(xié)程調用阻塞IO操作時,操作系統(tǒng)會讓線程進入阻塞狀態(tài),當前的協(xié)程和其它綁定在該線程之上的協(xié)程都會陷入阻塞而得不到調度。
因此在協(xié)程中不能調用導致線程阻塞的操作,比如打印、讀取文件、Socket接口等。協(xié)程只有和異步IO結合起來才能發(fā)揮最大的威力。并且協(xié)程只有在IO密集型的任務中才會發(fā)揮作用。
3.6 進程通信
進程的用戶地址空間是相互獨立的,不可以互相訪問,但內核空間是進程都共享的,所以進程之間要通信必須通過內核。進程間通信主要通過管道、消息隊列、共享內存、信號量、信號、Socket編程。
3.6.1 管道
管道主要分為匿名管道跟命名管道兩種,可以實現(xiàn)數(shù)據(jù)的單向流動性。使用起來很簡單,但是管道這種通信方式效率低,不適合進程間頻繁地交換數(shù)據(jù)。
匿名管道:
-
日常Linux系統(tǒng)中的|就是匿名管道。指令的前一個輸入是后一個指令的輸出。
命名管道:
-
一般通過mkfifo SoWhatPipe創(chuàng)建管道。通過echo "sw" > SoWhatPipe跟cat < SoWhatPipe實現(xiàn)輸入跟輸出。
匿名管道的實現(xiàn)依賴int pipe(int fd[2])函數(shù),其中fd[0]是讀取斷描述符,fd[1]是管道寫入端描述符。它的本質就是在內核中創(chuàng)建個屬于內存的緩存,從一端輸入無格式數(shù)據(jù)一端輸出無格式數(shù)據(jù),需注意管道傳輸大小是有限的。
管道通信底層匿名管道的通信范圍是存在父子關系的進程。由于管道沒有實體,也就是沒有管道文件,不會涉及到文件系統(tǒng)。只能通過fork子進程來復制父進程 fd 文件描述符,父子進程通過共用特殊的管道文件實現(xiàn)跨進程通信,并且因為管道只能一端寫入,另一端讀出,所以通常父子進程遵從如下要求:
-
父進程關閉讀取的 fd[0],只保留寫入的 fd[1]。
-
子進程關閉寫入的 fd[1],只保留讀取的 fd[0]。
需注意Shell執(zhí)行匿名管道 a | b其實是通過Shell父進程fork出了兩個子進程來實現(xiàn)通信的,而ab之間是不存在父子進程關系的。而命名管道是可以直接在不想關進程間通信的,因為有管道文件。
3.6.2 消息隊列
消息隊列消息隊列是保存在 內核中的消息鏈表, 會涉及到用戶態(tài)跟內核態(tài)到來回切換,雙方約定好消息體到數(shù)據(jù)結構,然后發(fā)送數(shù)據(jù)時將數(shù)據(jù)分成一個個獨立的數(shù)據(jù)單元消息體,需注意消息隊列及單個消息都有上限,日常我們到RabbitMQ、Redis 都涉及到消息隊列。3.6.3 共享內存
共享空間現(xiàn)代操作系統(tǒng)對內存管理采用的是虛擬內存技術,也就是每個進程都有自己獨立的虛擬內存空間,不同進程的虛擬內存映射到不同的物理內存中。所以,即使進程A和進程B虛擬地址是一樣的,真正訪問的也是不同的物理內存地址,該模式不涉及到用戶態(tài)跟內核態(tài)來回切換,JVM 就是用的共享內存模式。并且并發(fā)編程也是個難點。
3.6.4 信號量
既然共享內存容易造成數(shù)據(jù)紊亂,那為了簡單的實現(xiàn)共享數(shù)據(jù)在任意時刻只能被一個進程訪問,此時需要信號量。
信號量其實是一個整型的計數(shù)器,主要用于實現(xiàn)進程間的互斥與同步,而不是用于緩存進程間通信的數(shù)據(jù)。
信號量表示資源的數(shù)量,核心點在于原子性的控制一個數(shù)據(jù)的值,控制信號量的方式有PV兩種原子操作:
-
P 操作會把信號量減去 -1,相減后如果信號量 < 0,則表明資源已被占用,進程需阻塞等待。相減后如果信號量 >= 0,則表明還有資源可使用,進程可正常繼續(xù)執(zhí)行。
-
V 操作會把信號量加上 1,相加后如果信號量 <= 0,則表明當前有阻塞中的進程,于是會將該進程喚醒運行。相加后如果信號量 > 0,則表明當前沒有阻塞中的進程。
3.6.5 信號
對于異常狀態(tài)下進程工作模式需要用到信號工作方式來通知進程。比如Linux系統(tǒng)為了響應各種事件提供了很多異常信號kill -l,信號是進程間通信機制中唯一的異步通信機制,可以在任何時候發(fā)送信號給某一進程。比如:
-
kill -9 1412 ,表示給 PID 為 1412 的進程發(fā)送 SIGKILL 信號,用來立即結束該進程。
-
鍵盤 Ctrl+C 產(chǎn)生 SIGINT 信號,表示終止該進程。
-
鍵盤 Ctrl+Z 產(chǎn)生 SIGTSTP 信號,表示停止該進程,但還未結束。
有信號發(fā)生時,進程一般有三種方式響應信號:
-
執(zhí)行默認操作:Linux操作系統(tǒng)為眾多信號配備了專門的處理操作。
-
捕捉信號:給捕捉到的信號配備專門的信號處理函數(shù)。
-
忽略信號:專門用來忽略某些信號,但 SIGKILL 和 SEGSTOP是無法被忽略的,為了能在任何時候結束或停止某個進程而存在。
3.6.6 Socket編程
前面提到的管道、消息隊列、共享內存、信號量和信號都是在同一臺主機上進行進程間通信,那要想跨網(wǎng)絡與不同主機上的進程之間通信,就需要 Socket 通信。
int socket(int domain, int type, int protocal)
上面是socket編程的核心函數(shù),可以指定IPV4或IPV6類型,TCP或UDP類型。比如TCP協(xié)議通信的 socket 編程模型如下:
Socket編程-
服務端和客戶端初始化socket,得到文件描述符。
-
服務端調用bind,將綁定在 IP 地址和端口。
-
服務端調用listen,進行監(jiān)聽。
-
服務端調用accept,等待客戶端連接。
-
客戶端調用connect,向服務器端的地址和端口發(fā)起連接請求。
-
服務端accept返回用于傳輸?shù)膕ocket的文件描述符。
-
客戶端調用write寫入數(shù)據(jù),服務端調用read讀取數(shù)據(jù)。
-
客戶端斷開連接時,會調用close,那么服務端read讀取數(shù)據(jù)的時候,就會讀取到了EOF,待處理完數(shù)據(jù)后,服務端調用 close,表示連接關閉。
-
服務端調用accept時,連接成功會返回一個已完成連接的socket,后續(xù)用來傳輸數(shù)據(jù)。服務端有倆socket,一個叫作監(jiān)聽socket,一個叫作已完成連接socket。
-
成功連接建立之后雙方開始通過 read 和 write 函數(shù)來讀寫數(shù)據(jù)。
UDP比較簡單,屬于類似廣播性質的傳輸,不需要維護連接。但也需要 bind,每次通信時調用 sendto 和 recvfrom 都要傳入目標主機的 IP 地址和端口。
3.7 多線程編程
既然多進程開銷過大,那平常我們經(jīng)常使用到的就是多線程編程了。期間可能涉及到內存模型、JMM、Volatile、臨界區(qū)等等。這些在Java并發(fā)編程專欄有講。
4 文件管理
4.1 VFS 虛擬文件系統(tǒng)
文件系統(tǒng)在操作系統(tǒng)中主要負責將文件數(shù)據(jù)信息存儲到磁盤中,起到持久化文件的作用。文件系統(tǒng)的基本組成單元就是文件,文件組成方式不同就會形成不同的文件系統(tǒng)。
文件系統(tǒng)有很多種而不同的文件系統(tǒng)應用到操作系統(tǒng)后需要提供統(tǒng)一的對外接口,此時用到了一個設計理念沒有什么是加一層解決不了的,在用戶層跟不同的文件系統(tǒng)之間加入一個虛擬文件系統(tǒng)層Virtual File System。
虛擬文件系統(tǒng)層定義了一組所有文件系統(tǒng)都支持的數(shù)據(jù)結構和標準接口,這樣程序員不需要了解文件系統(tǒng)的工作原理,只需要了解 VFS 提供的統(tǒng)一接口即可。
虛擬文件系統(tǒng)日常的文件系統(tǒng)一般有如下三種:
-
磁盤文件系統(tǒng):就是我們常見的EXT 2/3/4系列。
-
內存文件系統(tǒng):數(shù)據(jù)沒存儲到磁盤,占用內存數(shù)據(jù),比如/sys、/proc。進程中的一些數(shù)據(jù)映射到/proc中了。
-
網(wǎng)絡文件系統(tǒng):常見的網(wǎng)盤掛載NFS等,通過訪問其他主機數(shù)據(jù)實現(xiàn)。
4.2 文件組成
以Linux系統(tǒng)為例,在Linux系統(tǒng)中一切皆文件,Linux文件系統(tǒng)會為每個文件分配索引節(jié)點 inode跟目錄項directory entry來記錄文件內容跟目錄層次結構。
4.2.1 inode
要理解inode要從文件儲存說起。文件存儲在硬盤上,硬盤的最小存儲單位叫做扇區(qū)。每個扇區(qū)儲存512字節(jié)。操作系統(tǒng)讀取硬盤的時候,不會一個個扇區(qū)的讀取,這樣效率太低,一般一次性連續(xù)讀取8個扇區(qū)(4KB)來當做一塊,這種由多個扇區(qū)組成的塊,是文件存取的最小單位。
文件數(shù)據(jù)都儲存在塊中,我們還必須找到一個地方儲存文件的元信息,比如inode編號、文件大小、創(chuàng)建時間、修改時間、磁盤位置、訪問權限等。幾乎除了文件名以為的所有文件元數(shù)據(jù)信息都存儲在一個叫叫索引節(jié)點inode的地方??赏ㄟ^stat 文件名查看 inode 信息
每個inode都有一個號碼,操作系統(tǒng)用inode號碼來識別不同的文件。Unix/Linux系統(tǒng)內部不使用文件名,而使用inode號碼來識別文件,用戶可通過ls -i查看每個文件對應編號。對于系統(tǒng)來說文件名只是inode號碼便于識別的別稱或者綽號。特殊名字的文件不好刪除時可以嘗試用inode號刪除,移動跟重命名不會導致文件inode變化,當用戶嘗試根據(jù)文件名打開文件時,實際上系統(tǒng)內部將這個過程分成三步:
-
系統(tǒng)找到這個文件名對應的inode號碼。
-
通過inode號碼,獲取inode信息,進行權限驗證等操作。
-
根據(jù)inode信息,找到文件數(shù)據(jù)所在的block,讀出數(shù)據(jù)。
需注意 inode也會消耗硬盤空間,硬盤格式化后會被分成超級塊、索引節(jié)點區(qū)和數(shù)據(jù)塊區(qū)三個區(qū)域:
-
超級塊區(qū):用來存儲文件系統(tǒng)的詳細信息,比如塊大小,塊個數(shù)等信息。一般文件系統(tǒng)掛載后就會將數(shù)據(jù)信息同步到內存。
-
索引節(jié)點區(qū):用來存儲索引節(jié)點 inode table。每個inode一般為128字節(jié)或256字節(jié),一般每1KB或2KB數(shù)據(jù)就需設置一個inode。一般為了加速查詢會把索引數(shù)據(jù)緩存到內存。
-
數(shù)據(jù)塊區(qū):真正存儲磁盤數(shù)據(jù)的地方。
df -i # 查看每個硬盤分區(qū)的inode總數(shù)和已經(jīng)使用的數(shù)量 sudo dumpe2fs -h /dev/hda | grep "Inode size" # 查看每個inode節(jié)點的大小
4.2.2 目錄
Unix/Linux系統(tǒng)中目錄directory也是一種文件,打開目錄實際上就是打開目錄文件。目錄文件內容就是一系列目錄項的列,目錄項的內容包含文件的名字、文件類型、索引節(jié)點指針以及與其他目錄項的層級關系。
為避免頻繁讀取磁盤里的目錄文件,內核會把已經(jīng)讀過的目錄文件用目錄項這個數(shù)據(jù)結構緩存在內存,方便用戶下次讀取目錄信息,目錄項可包含目錄或文件,不要驚訝于可以保存目錄,目錄格式的目錄項里面保存的是目錄里面一項一項的文件信息。
4.2.3 軟連接跟硬鏈接
軟連接跟硬鏈接硬鏈接:老文件A被創(chuàng)建若干個硬鏈接B、C后。A、B、C三個文件的inode是相同的,所以不能跨文件系統(tǒng)。同時只有ABC全部刪除,系統(tǒng)才會刪除源文件。
軟鏈接:相當于基于老文件A新建了個文件B,該文件B有新的inode,不過文件B內容是老文件A的路徑。所以軟鏈接可以跨文件系統(tǒng)。當老文件A刪除后,文件B仍然存在,不過找不到指定文件了。
[sowhat@localhost ~]$ ln [選項] 源文件 目標文件
選項:
-s:建立軟鏈接文件。如果不加 "-s" 選項,則建立硬鏈接文件;
-f:強制。如果目標文件已經(jīng)存在,則刪除目標文件后再建立鏈接文件;
4.3 文件存儲
說文件存儲前需了解文件系統(tǒng)操作基本單位是數(shù)據(jù)塊,而平常用戶操作字節(jié)到數(shù)據(jù)塊之間是需要轉換的,當然這些文件系統(tǒng)都幫我們對接好了。接下來看文件系統(tǒng)是如何按照數(shù)據(jù)塊, 文件在磁盤中存儲時候主要分為連續(xù)空間存儲跟非連續(xù)空間存儲
4.3.1 連續(xù)空間存儲
-
實現(xiàn):連續(xù)空間存儲的意思就跟數(shù)組存儲一樣,找個連續(xù)的空間一次性把數(shù)據(jù)存儲進去,文件頭存儲起始位置跟數(shù)據(jù)長度即可。
-
優(yōu)勢:讀寫效率高,磁盤尋址一次即可。
-
劣勢:容易產(chǎn)生空間碎片,并且文件擴容不方便。
連續(xù)存儲
4.3.2 非連續(xù)空間存儲之鏈表
隱式鏈表
-
實現(xiàn):文件頭包含StartBlock、EndBlock。每個BLock有隱藏的next指針,跟單向鏈表一樣。
-
缺點:只能通過鏈式不斷往下查找數(shù)據(jù),不支持快速直接訪問。
顯式鏈表
-
實現(xiàn):把每個Block中的next指針存儲到內存文件分配表中,通過遍歷數(shù)組方式實現(xiàn)拿到全部數(shù)據(jù)。
-
缺點:前面說1KB就有個inode指針,如果磁盤數(shù)據(jù)很大那就需要很大的文件分配表來存儲映射關系了,
顯示鏈表
4.3.3 非連續(xù)空間存儲之索引
-
實現(xiàn):整個文件類型一本新華字典,真實的數(shù)據(jù)塊在詞典實際位置存儲著,但文件所需數(shù)據(jù)塊的索引位置會被匯總起來形成目錄索引放在字典前頭。
-
優(yōu)勢:不會產(chǎn)生碎片,文件可動態(tài)擴容,并且支持順序跟隨機讀寫。
-
劣勢:可能一個小文件都要占用一個目錄索引,文件過大導致索引指針一個容不下,可能還需要有多級索引或索引+鏈表模式。
這些存儲方式各有利弊,所以操作系統(tǒng)才存儲的時候一般是根據(jù)文件的大小進行動態(tài)的變化存儲方式的,跟STL中的快排底層 = 快排 + 插入排序 + 堆排 一樣的道理。
4.3.4 空閑空間管理
為了避免用戶存儲數(shù)據(jù)時候遍歷全部磁盤空間來尋找可以數(shù)據(jù)塊,一般有如下幾種記錄方法。
-
空閑表:動態(tài)的維護一個空閑數(shù)據(jù)塊列表,每行存儲空閑塊的開始位置跟空閑長度。適合少量有少量空閑數(shù)據(jù)塊時。
空閑表 -
空閑鏈表:將空閑的數(shù)據(jù)庫用next指針串聯(lián)起來,缺點是不能隨機訪問。
空閑鏈表 -
位圖法:利用Bit的 01 表示數(shù)據(jù)塊可用跟不可用,簡單方便,inode跟空閑數(shù)據(jù)庫都用的此方法。
位圖法
5 輸入輸出管理
5.1 設備控制器跟驅動程序
5.1.1 設備控制器
設備控制器操作系統(tǒng)為統(tǒng)一管理眾多的設備并且屏蔽設備之間的差異,給每個設備都安裝了個小CPU叫 設備控制器。每個設備控制器都知道自己對應外設的功能跟用法,并且每個 設備控制器都有獨有的寄存器用來跟CPU通信。
-
讀設備寄存器值了解設備狀態(tài),是否可以接收新指令。
-
操作系統(tǒng)給設備寄存器寫入一些指令可以實現(xiàn)發(fā)送數(shù)據(jù)、接收數(shù)據(jù)等等操作。
控制器一般分為數(shù)據(jù)寄存器、命令寄存器跟狀態(tài)寄存器,CPU 通過讀、寫設備控制器中的寄存器來便捷的控制設備:
-
數(shù)據(jù)寄存器:CPU 向 I/O 設備寫入需要傳輸?shù)臄?shù)據(jù),比如打印what,CPU 就要先發(fā)送一個w字符給到對應的 I/O 設備。
-
命令寄存器:CPU 發(fā)送命令來告訴 I/O 設備要進行輸入/輸出操作,于是就會交給 I/O 設備去工作,任務完成后,會把狀態(tài)寄存器里面的狀態(tài)標記為完成。
-
狀態(tài)寄存器:用來告訴 CPU 現(xiàn)在已經(jīng)在工作或工作已經(jīng)完成,只有狀態(tài)寄存標記成已完成,CPU 才能發(fā)送下一個字符和命令。
同時輸入輸出設備可分為塊設備跟字符設備。
-
塊設備:用來把數(shù)據(jù)存儲在固定大小的塊中,每個塊有自己的地址,硬盤、U盤等是常見的塊設備。塊設備一般數(shù)據(jù)傳輸較大為避免頻繁IO,控制器中有個可讀寫等數(shù)據(jù)緩沖區(qū)。Linux操作系統(tǒng)為屏蔽不同塊設備帶來的差異引入了通用塊層,通用塊層是處于文件系統(tǒng)和磁盤驅動中間的一個塊設備抽象層,主要提供如下倆功能:
向上為文件系統(tǒng)和應用程序,提供訪問塊設備的標準接口,向下把各種不同的磁盤設備抽象為統(tǒng)一的塊設備,并在內核層面提供一個框架來管理這些設備的驅動程序。
通用層還會給文件系統(tǒng)和應用程序發(fā)來的 I/O進行調度,主要目的是為了提高磁盤讀寫的效率。
-
字符設備:以字符為單位發(fā)送或接收一個字符流,字符設備是不可尋址的,也沒有任何尋道操作,鼠標是常見的字符設備。
CPU一般通過IO端口跟內存映射IO來跟設備的控制寄存器和數(shù)據(jù)緩沖區(qū)進行通信
-
IO端口:每個控制寄存器被分配一個 I/O 端口,可以通過特殊的匯編指令操作這些寄存器,比如 in/out 類似的指令。
-
內存映射IO:將所有控制寄存器映射到內存空間中,這樣就可以像讀寫內存一樣讀寫數(shù)據(jù)緩沖區(qū)。
5.1.2 驅動接口
驅動程序設備控制器屏蔽了設備細節(jié),但每種設備的控制器的寄存器、緩沖區(qū)等使用模式都是不同的,它屬于硬件。在操作系統(tǒng)圖范疇內為了屏蔽設備控制器的差異,引入了設備驅動程序,不同設備到驅動程序會提供統(tǒng)一接口給操作系統(tǒng)來調用,這樣操作系統(tǒng)內核會像調用本地代碼一樣使用設備驅動程序接口。
設備發(fā)出IO請求就是在設備驅動程序中來響應到,它會根據(jù)中斷類型調用響應到中斷處理程序進行處理。
中斷請求流程5.2 IO 控制
CPU發(fā)送指令讓那個設備控制器去讀寫數(shù)據(jù),完畢后如何通知CPU呢?
5.2.1 輪詢模式
控制器中有個狀態(tài)寄存器,CPU不斷輪詢查看寄存器狀態(tài),該模式會傻瓜式的一直占用CPU。
輪詢模式5.2.2 IO 中斷請求
中斷模式控制器有個中斷控制器,當設備完成任務后觸發(fā)中斷到中斷控制器,中斷控制器就通知 CPU來處理中斷請求。中斷有兩種,一種是 軟中斷,比如代碼調用 INT 指令觸發(fā)。一種是 硬件中斷,硬件通過中斷控制器觸發(fā)的。但中斷方式對于頻繁讀寫磁盤數(shù)據(jù)的操作就不太友好了,會頻繁打斷CPU。
這里說下磁盤高速緩存 PageCache,它是用來緩存最近被CPU訪問的數(shù)據(jù)到內存中,并且還具有預讀功能,可能你讀前16KB數(shù)據(jù),已經(jīng)把后16KB數(shù)據(jù)給你緩存好了。
pagecache : 頁緩存,當進程需讀取磁盤文件時,linux先分配一些內存,將數(shù)據(jù)從磁盤讀區(qū)到內存中,然后再將數(shù)據(jù)傳給進程。當進程需寫數(shù)據(jù)到磁盤時,linux先分配內存接收用戶數(shù)據(jù),然后再將數(shù)據(jù)從內存寫到磁盤。同時pagecache由于大小受限,所以一般只緩存最近被訪問的數(shù)據(jù),數(shù)據(jù)不足時還需訪問磁盤。
5.2.3 DMA 模式
Direct Memory Access直接內存訪問,在硬件DMA控制器的支持下,在進行 I/O 設備和內存的數(shù)據(jù)傳輸?shù)臅r候,數(shù)據(jù)搬運的工作全部交給 DMA 控制器,而 CPU 不再參與任何與數(shù)據(jù)搬運相關的事情,讓CPU 去處理別的事。
DMA模式可以發(fā)現(xiàn)整個數(shù)據(jù)傳輸過程中CPU是不會直接參與數(shù)據(jù)搬運工作,由DMA來直接負責數(shù)據(jù)讀取工作,現(xiàn)如今每個IO設備一般都自帶DMA控制器。讀數(shù)據(jù)時候僅僅在傳送開始跟結束時需要CPU干預。5.2.4 Zero Copy
Zero Copy 全程不會通過 CPU 來搬運數(shù)據(jù),所有的數(shù)據(jù)都是通過 DMA 來進行傳輸?shù)模虚g只需要經(jīng)過2次上下文切換跟2次DMA數(shù)據(jù)拷貝,相比最原始讀寫方式至少速度翻倍。其實在Kafka中已經(jīng)講過Zero Copy了。
5.2.4.1 老版本讀寫
老版本的簡單讀寫操作中間不對數(shù)據(jù)做任何操作。期間會發(fā)生4次用戶態(tài)跟內核態(tài)的切換。2次DMA數(shù)據(jù)拷貝,2次CPU數(shù)據(jù)拷貝。
老式讀寫提速方法就是需減少用戶態(tài)與內核態(tài)的上下文切換和內存拷貝的次數(shù)。數(shù)據(jù)傳輸時從內核的讀緩沖區(qū)拷貝到用戶的緩沖區(qū),再從用戶緩沖區(qū)拷貝到 socket 緩沖區(qū)的這個過程是沒有必要的。接下來
接下來按照三個版本說下Zero Copy 發(fā)展史。
5.2.4.2 mmap 跟 write
mmap + write思路就是用 mmap替代read函數(shù),mmap調用時會 直接把內核緩沖區(qū)里的數(shù)據(jù)映射到用戶空間,此時減少了一次數(shù)據(jù)拷貝,但仍然需要通過 CPU 把內核緩沖區(qū)的數(shù)據(jù)拷貝到 socket 緩沖區(qū)里,而且仍然需要 4 次上下文切換,因為系統(tǒng)調用還是 2 次。
buf = mmap(file, len); write(sockfd, buf, len);
5.2.4.3 sendfile
Linux 內核版本 2.1版本提供了函數(shù) sendfile()。
ssize_t sendfile(int out_fd, int in_fd, off_t *offset, size_t count); out_fd : 目的文件描述符 in_fd:源文件描述符 offset:源文件內偏移量 count:打算復制數(shù)據(jù)長度 ssize_t:實際上復制數(shù)據(jù)的長度
可以發(fā)現(xiàn)一個 sendfile = read + write,避免了2次用戶態(tài)跟內核態(tài)來回切換,并且可以直接把內核緩沖區(qū)里的數(shù)據(jù)拷貝到 socket 緩沖區(qū)里,這樣就只有 2 次上下文切換,和 3 次數(shù)據(jù)拷貝。
sendfile模式5.2.4.4 真正的零拷貝
Linux 內核 2.4如果網(wǎng)卡支持SG-DMA 技術,可以減少通過 CPU 把內核緩沖區(qū)里的數(shù)據(jù)拷貝到 socket 緩沖區(qū)的過程。
$ ethtool -k eth0 | grep scatter-gather scatter-gather: on
SG-DMA 技術可以直接將內核緩存中的數(shù)據(jù)拷貝到網(wǎng)卡的緩沖區(qū)里,此過程不需要將數(shù)據(jù)從操作系統(tǒng)內核緩沖區(qū)拷貝到 socket 緩沖區(qū)中,這樣就減少了一次數(shù)據(jù)拷貝。
ZeroCopy5.2.4.5 文件傳輸規(guī)則
不要以為會了Zero Copy后,無論大小文件都用Zero Copy。實際工作中一般小文件采用Zero Copy技術,而大文件會用異步IO。至于為啥,且看如下分析:
前面說的數(shù)據(jù)從磁盤讀到內核緩沖區(qū)就是讀到PageCache中,PageCache具有緩存跟預讀功能。但當傳輸超大文件時PageCache會不失效,因為大文件會快速占滿PageCache區(qū),但這些文件又只是一次訪問,會造成其他熱點小文件無法使用PageCache,所以索性不用PageCache,使用異步IO的了。至于異步IO是啥呢?下文在說。
5.3 IO分層
IO分層Linux 存儲系統(tǒng)的 I/O 由上到下可以分為 文件系統(tǒng)層、 通用塊層、 設備層。
-
文件系統(tǒng)層向上為應用程序統(tǒng)一提供了標準的文件訪問接口,向下會通過通用塊層來存儲和管理磁盤數(shù)據(jù)。
-
通用塊層包括塊設備的 I/O 隊列和 I/O 調度器,通過IO調度器處理IO請求。
-
設備層包括硬件設備、設備控制器和驅動程序,負責最終物理設備的 I/O 操作。
Linux系統(tǒng)中的IO讀取提速:
-
為提高文件訪問效率會使用頁緩存、索引節(jié)點緩存、目錄項緩存等多種緩存機制,目的是為了減少對塊設備的直接調用。
-
為了提高塊設備的訪問效率, 會使用緩沖區(qū),來緩存塊設備的數(shù)據(jù)。
6 End
小3W字,終于吹逼完了。希望讀完可以讓你對操作系統(tǒng)有個大概的印象,你在用Window,卻不知經(jīng)過30年的基礎沉淀,Windows 的完整源代碼樹的大小超過 0.5 TB,涉及超過56萬個文件夾,400 多萬個文件,總規(guī)模超十億行。再加上各個功能之間需要兼容性,可維護性,可管理性等這些隨著代碼的越來越多可推敲,最終產(chǎn)生了這樣的一個藝術品!
免責聲明:本文內容由21ic獲得授權后發(fā)布,版權歸原作者所有,本平臺僅提供信息存儲服務。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!