知道硬盤很慢，但沒(méi)想到比CPU Cache慢10000000倍

時(shí)間：2020-10-15 09:25:46

關(guān)鍵字： CPU 存儲(chǔ)器

手機(jī)看文章

掃描二維碼
隨時(shí)隨地手機(jī)看文章

[導(dǎo)讀]機(jī)械硬盤、固態(tài)硬盤、內(nèi)存這三個(gè)存儲(chǔ)器，到底和CPU L1 Cache相比速度差多少倍？

前言

大家如果想自己組裝電腦的話，肯定需要購(gòu)買一個(gè) CPU，但是存儲(chǔ)器方面的設(shè)備，分類比較多，那我們肯定不能只買一種存儲(chǔ)器，比如你除了要買內(nèi)存，還要買硬盤，而針對(duì)硬盤我們還可以選擇是固態(tài)硬盤還是機(jī)械硬盤。

相信大家都知道內(nèi)存和硬盤都屬于計(jì)算機(jī)的存儲(chǔ)設(shè)備，斷電后內(nèi)存的數(shù)據(jù)是會(huì)丟失的，而硬盤則不會(huì)，因?yàn)橛脖P是持久化存儲(chǔ)設(shè)備，同時(shí)也是一個(gè) I/O 設(shè)備。

但其實(shí) CPU 內(nèi)部也有存儲(chǔ)數(shù)據(jù)的組件，這個(gè)應(yīng)該比較少人注意到，比如寄存器、CPU L1/L2/L3 Cache 也都是屬于存儲(chǔ)設(shè)備，只不過(guò)它們能存儲(chǔ)的數(shù)據(jù)非常小，但是它們因?yàn)榭拷?CPU 核心，所以訪問(wèn)速度都非?？?，快過(guò)硬盤好幾個(gè)數(shù)量級(jí)別。

問(wèn)題來(lái)了，那機(jī)械硬盤、固態(tài)硬盤、內(nèi)存這三個(gè)存儲(chǔ)器，到底和 CPU L1 Cache 相比速度差多少倍呢？

在回答這個(gè)問(wèn)題之前，我們先來(lái)看看「存儲(chǔ)器的層次結(jié)構(gòu)」，好讓我們對(duì)存儲(chǔ)器設(shè)備有一個(gè)整體的認(rèn)識(shí)。

正文

存儲(chǔ)器的層次結(jié)構(gòu)

我們想象中一個(gè)場(chǎng)景，大學(xué)期末準(zhǔn)備考試了，你前去圖書館臨時(shí)抱佛腳。那么，在看書的時(shí)候，我們的大腦會(huì)思考問(wèn)題，也會(huì)記憶知識(shí)點(diǎn)，另外我們通常也會(huì)把常用的書放在自己的桌子上，當(dāng)我們要找一本不常用的書，則會(huì)去圖書館的書架找。

就是這么一個(gè)小小的場(chǎng)景，已經(jīng)把計(jì)算機(jī)的存儲(chǔ)結(jié)構(gòu)基本都涵蓋了。

我們可以把 CPU 比喻成我們的大腦，大腦正在思考的東西，就好比 CPU 中的寄存器，處理速度是最快的，但是能存儲(chǔ)的數(shù)據(jù)也是最少的，畢竟我們也不能一下同時(shí)思考太多的事情，除非你練過(guò)。

我們大腦中的記憶，就好比 CPU Cache，中文稱為 CPU 高速緩存，處理速度相比寄存器慢了一點(diǎn)，但是能存儲(chǔ)的數(shù)據(jù)也稍微多了一些。

CPU Cache 通常會(huì)分為 L1、L2、L3 三層，其中 L1 Cache 通常分成「數(shù)據(jù)緩存」和「指令緩存」，L1 是距離 CPU 最近的，因此它比 L2、L3 的讀寫速度都快、存儲(chǔ)空間都小。我們大腦中短期記憶，就好比 L1 Cache，而長(zhǎng)期記憶就好比 L2/L3 Cache。

寄存器和 CPU Cache 都是在 CPU 內(nèi)部，跟 CPU 挨著很近，因此它們的讀寫速度都相當(dāng)?shù)目?，但是能存?chǔ)的數(shù)據(jù)很少，畢竟 CPU 就這么丁點(diǎn)大。

知道 CPU 內(nèi)部的存儲(chǔ)器的層次分布，我們放眼看看 CPU 外部的存儲(chǔ)器。

當(dāng)我們大腦記憶中沒(méi)有資料的時(shí)候，可以從書桌或書架上拿書來(lái)閱讀，那我們桌子上的書，就好比內(nèi)存，我們雖然可以一伸手就可以拿到，但讀寫速度肯定遠(yuǎn)慢于寄存器，那圖書館書架上的書，就好比硬盤，能存儲(chǔ)的數(shù)據(jù)非常大，但是讀寫速度相比內(nèi)存差好幾個(gè)數(shù)量級(jí)，更別說(shuō)跟寄存器的差距了。

我們從圖書館書架取書，把書放到桌子上，再閱讀書，我們大腦就會(huì)記憶知識(shí)點(diǎn)，然后再經(jīng)過(guò)大腦思考，這一系列過(guò)程相當(dāng)于，數(shù)據(jù)從硬盤加載到內(nèi)存，再?gòu)膬?nèi)存加載到 CPU 的寄存器和 Cache 中，然后再通過(guò) CPU 進(jìn)行處理和計(jì)算。

對(duì)于存儲(chǔ)器，它的速度越快、能耗會(huì)越高、而且材料的成本也是越貴的，以至于速度快的存儲(chǔ)器的容量都比較小。

CPU 里的寄存器和 Cache，是整個(gè)計(jì)算機(jī)存儲(chǔ)器中價(jià)格最貴的，雖然存儲(chǔ)空間很小，但是讀寫速度是極快的，而相對(duì)比較便宜的內(nèi)存和硬盤，速度肯定比不上 CPU 內(nèi)部的存儲(chǔ)器，但是能彌補(bǔ)存儲(chǔ)空間的不足。

存儲(chǔ)器通?？梢苑譃檫@么幾個(gè)級(jí)別：

寄存器；
CPU Cache；

L1-Cache；
L2-Cache；
L3-Cahce；

內(nèi)存；

SSD/HDD 硬盤

寄存器

最靠近 CPU 的控制單元和邏輯計(jì)算單元的存儲(chǔ)器，就是寄存器了，它使用的材料速度也是最快的，因此價(jià)格也是最貴的，那么數(shù)量不能很多。

存儲(chǔ)器的數(shù)量通常在幾十到幾百之間，每個(gè)寄存器可以用來(lái)存儲(chǔ)一定的字節(jié)（byte）的數(shù)據(jù)。比如：

32 位 CPU 中大多數(shù)寄存器可以存儲(chǔ) 4 個(gè)字節(jié)；
64 位 CPU 中大多數(shù)寄存器可以存儲(chǔ) 8 個(gè)字節(jié)。

寄存器的訪問(wèn)速度非?？?，一般要求在半個(gè) CPU 時(shí)鐘周期內(nèi)完成讀寫，CPU 時(shí)鐘周期跟 CPU 主頻息息相關(guān)，比如 2 GHz 主頻的 CPU，那么它的時(shí)鐘周期就是 1/2G，也就是 0.5ns（納秒）。

CPU 處理一條指令的時(shí)候，除了讀寫寄存器，還需要解碼指令、控制指令執(zhí)行和計(jì)算。如果寄存器的速度太慢，則會(huì)拉長(zhǎng)指令的處理周期，從而給用戶的感覺(jué)，就是電腦「很慢」。

CPU Cache

CPU Cache 用的是一種叫 SRAM（Static Random-Access Memory，靜態(tài)隨機(jī)存儲(chǔ)器） 的芯片。

SRAM 之所以叫「靜態(tài)」存儲(chǔ)器，是因?yàn)橹灰须姡瑪?shù)據(jù)就可以保持存在，而一旦斷電，數(shù)據(jù)就會(huì)丟失了。

在 SRAM 里面，一個(gè) bit 的數(shù)據(jù)，通常需要 6 個(gè)晶體管，所以 SRAM 的存儲(chǔ)密度不高，同樣的物理空間下，能存儲(chǔ)的數(shù)據(jù)是有限的，不過(guò)也因?yàn)?SRAM 的電路簡(jiǎn)單，所以訪問(wèn)速度非常快。

CPU 的高速緩存，通常可以分為 L1、L2、L3 這樣的三層高速緩存，也稱為一級(jí)緩存、二次緩存、三次緩存。

L1 高速緩存

L1 高速緩存的訪問(wèn)速度幾乎和寄存器一樣快，通常只需要 2~4 個(gè)時(shí)鐘周期，而大小在幾十 KB 到幾百 KB 不等。

每個(gè) CPU 核心都有一塊屬于自己的 L1 高速緩存，指令和數(shù)據(jù)在 L1 是分開存放的，所以 L1 高速緩存通常分成指令緩存和數(shù)據(jù)緩存。

在 Linux 系統(tǒng)，我們可以通過(guò)這條命令，查看 CPU 里的 L1 Cache 「數(shù)據(jù)」緩存的容量大?。?/p>

$ cat /sys/devices/system/cpu/cpu0/cache/index0/size
32K

而查看 L1 Cache 「指令」緩存的容量大小，則是：

$ cat /sys/devices/system/cpu/cpu0/cache/index1/size
32K

L2 高速緩存

L2 高速緩存同樣每個(gè) CPU 核心都有，但是 L2 高速緩存位置比 L1 高速緩存距離 CPU 核心更遠(yuǎn)，它大小比 L1 高速緩存更大，CPU 型號(hào)不同大小也就不同，通常大小在幾百 KB 到幾 MB 不等，訪問(wèn)速度則更慢，速度在 10~20 個(gè)時(shí)鐘周期。

在 Linux 系統(tǒng)，我們可以通過(guò)這條命令，查看 CPU 里的 L2 Cache 的容量大?。?/p>

$ cat /sys/devices/system/cpu/cpu0/cache/index2/size
256K

L3 高速緩存

L3 高速緩存通常是多個(gè) CPU 核心共用的，位置比 L2 高速緩存距離 CPU 核心更遠(yuǎn)，大小也會(huì)更大些，通常大小在幾 MB 到幾十 MB 不等，具體值根據(jù) CPU 型號(hào)而定。

訪問(wèn)速度相對(duì)也比較慢一些，訪問(wèn)速度在 20~60個(gè)時(shí)鐘周期。

在 Linux 系統(tǒng)，我們可以通過(guò)這條命令，查看 CPU 里的 L3 Cache 的容量大?。?/p>

$ cat /sys/devices/system/cpu/cpu0/cache/index3/size 
3072K

內(nèi)存

內(nèi)存用的芯片和 CPU Cache 有所不同，它使用的是一種叫作 DRAM （Dynamic Random Access Memory，動(dòng)態(tài)隨機(jī)存取存儲(chǔ)器） 的芯片。

相比 SRAM，DRAM 的密度更高，功耗更低，有更大的容量，而且造價(jià)比 SRAM 芯片便宜很多。

DRAM 存儲(chǔ)一個(gè) bit 數(shù)據(jù)，只需要一個(gè)晶體管和一個(gè)電容就能存儲(chǔ)，但是因?yàn)閿?shù)據(jù)會(huì)被存儲(chǔ)在電容里，電容會(huì)不斷漏電，所以需要「定時(shí)刷新」電容，才能保證數(shù)據(jù)不會(huì)被丟失，這就是 DRAM 之所以被稱為「動(dòng)態(tài)」存儲(chǔ)器的原因，只有不斷刷新，數(shù)據(jù)才能被存儲(chǔ)起來(lái)。

DRAM 的數(shù)據(jù)訪問(wèn)電路和刷新電路都比 SRAM 更復(fù)雜，所以訪問(wèn)的速度會(huì)更慢，內(nèi)存速度大概在 200~300 個(gè) 時(shí)鐘周期之間。

SSD/HDD 硬盤

SSD（Solid-state disk）就是我們常說(shuō)的固體硬盤，結(jié)構(gòu)和內(nèi)存類似，但是它相比內(nèi)存的優(yōu)點(diǎn)是斷電后數(shù)據(jù)還是存在的，而內(nèi)存、寄存器、高速緩存斷電后數(shù)據(jù)都會(huì)丟失。內(nèi)存的讀寫速度比 SSD 大概快 10~1000 倍。

當(dāng)然，還有一款傳統(tǒng)的硬盤，也就是機(jī)械硬盤（Hard Disk Drive, HDD），它是通過(guò)物理讀寫的方式來(lái)訪問(wèn)數(shù)據(jù)的，因此它訪問(wèn)速度是非常慢的，它的速度比內(nèi)存慢 10W 倍左右。

由于 SSD 的價(jià)格快接近機(jī)械硬盤了，因此機(jī)械硬盤已經(jīng)逐漸被 SSD 替代了。

存儲(chǔ)器的層次關(guān)系

現(xiàn)代的一臺(tái)計(jì)算機(jī)，都用上了 CPU Cahce、內(nèi)存、到 SSD 或 HDD 硬盤這些存儲(chǔ)器設(shè)備了。

其中，存儲(chǔ)空間越大的存儲(chǔ)器設(shè)備，其訪問(wèn)速度越慢，所需成本也相對(duì)越少。

CPU 并不會(huì)直接和每一種存儲(chǔ)器設(shè)備直接打交道，而是每一種存儲(chǔ)器設(shè)備只和它相鄰的存儲(chǔ)器設(shè)備打交道。

比如，CPU Cache 的數(shù)據(jù)是從內(nèi)存加載過(guò)來(lái)的，寫回?cái)?shù)據(jù)的時(shí)候也只寫回到內(nèi)存，CPU Cache 不會(huì)直接把數(shù)據(jù)寫到硬盤，也不會(huì)直接從硬盤加載數(shù)據(jù)，而是先加載到內(nèi)存，再?gòu)膬?nèi)存加載到 CPU Cache 中。

所以，每個(gè)存儲(chǔ)器只和相鄰的一層存儲(chǔ)器設(shè)備打交道，并且存儲(chǔ)設(shè)備為了追求更快的速度，所需的材料成本必然也是更高，也正因?yàn)槌杀咎?，所?CPU 內(nèi)部的寄存器、L1\L2\L3 Cache 只好用較小的容量，相反內(nèi)存、硬盤則可用更大的容量，這就我們今天所說(shuō)的存儲(chǔ)器層次結(jié)構(gòu)。

另外，當(dāng) CPU 需要訪問(wèn)內(nèi)存中某個(gè)數(shù)據(jù)的時(shí)候，如果寄存器有這個(gè)數(shù)據(jù)，CPU 就直接從寄存器取數(shù)據(jù)即可，如果寄存器沒(méi)有這個(gè)數(shù)據(jù)，CPU 就會(huì)查詢 L1 高速緩存，如果 L1 沒(méi)有，則查詢 L2 高速緩存，L2 還是沒(méi)有的話就查詢 L3 高速緩存，L3 依然沒(méi)有的話，才去內(nèi)存中取數(shù)據(jù)。

所以，存儲(chǔ)層次結(jié)構(gòu)也形成了緩存的體系。

存儲(chǔ)器之間的實(shí)際價(jià)格和性能差距

前面我們知道了，速度越快的存儲(chǔ)器，造價(jià)成本往往也越高，那我們就以實(shí)際的數(shù)據(jù)來(lái)看看，不同層級(jí)的存儲(chǔ)器之間的性能和價(jià)格差異。

下面這張表格是不同層級(jí)的存儲(chǔ)器之間的成本對(duì)比圖：

你可以看到 L1 Cache 的訪問(wèn)延時(shí)是 1 納秒，而內(nèi)存已經(jīng)是 100 納秒了，相比 L1 Cache 速度慢了 100 倍。另外，機(jī)械硬盤的訪問(wèn)延時(shí)更是高達(dá) 10 毫秒，相比 L1 Cache 速度慢了 10000000 倍，差了好幾個(gè)數(shù)量級(jí)別。

在價(jià)格上，每生產(chǎn) MB 大小的 L1 Cache 相比內(nèi)存貴了 466 倍，相比機(jī)械硬盤那更是貴了 175000 倍。

我在某東逛了下各個(gè)存儲(chǔ)器設(shè)備的零售價(jià)，8G 內(nèi)存 + 1T 機(jī)械硬盤 + 256G 固態(tài)硬盤的總價(jià)格，都不及一塊 Intle i5-10400 的 CPU 的價(jià)格，這款 CPU 的高速緩存的總大小也就十多 MB。

總結(jié)

各種存儲(chǔ)器之間的關(guān)系，可以用我們?cè)趫D書館學(xué)習(xí)這個(gè)場(chǎng)景來(lái)理解。

CPU 可以比喻成我們的大腦，我們當(dāng)前正在思考和處理的知識(shí)的過(guò)程，就好比 CPU 中的寄存器處理數(shù)據(jù)的過(guò)程，速度極快，但是容量很小。而 CPU 中的 L1-L3 Cache 好比我們大腦中的短期記憶和長(zhǎng)期記憶，需要小小花費(fèi)點(diǎn)時(shí)間來(lái)調(diào)取數(shù)據(jù)并處理。

我們面前的桌子就相當(dāng)于內(nèi)存，能放下更多的書（數(shù)據(jù)），但是找起來(lái)和看起來(lái)就要花費(fèi)一些時(shí)間，相比 CPU Cache 慢不少。而圖書館的書架相當(dāng)于硬盤，能放下比內(nèi)存更多的數(shù)據(jù)，但找起來(lái)就更費(fèi)時(shí)間了，可以說(shuō)是最慢的存儲(chǔ)器設(shè)備了。

從寄存器、CPU Cache，到內(nèi)存、硬盤，這樣一層層下來(lái)的存儲(chǔ)器，訪問(wèn)速度越來(lái)越慢，存儲(chǔ)容量越來(lái)越大，價(jià)格也越來(lái)越便宜，而且每個(gè)存儲(chǔ)器只和相鄰的一層存儲(chǔ)器設(shè)備打交道，于是這樣就形成了存儲(chǔ)器的層次結(jié)構(gòu)。

再來(lái)回答，開頭的問(wèn)題：那機(jī)械硬盤、固態(tài)硬盤、內(nèi)存這三個(gè)存儲(chǔ)器，到底和 CPU L1 Cache 相比速度差多少倍呢？

CPU L1 Cache 隨機(jī)訪問(wèn)延時(shí)是 1 納秒，內(nèi)存則是 100 納秒，所以 CPU L1 Cache 比內(nèi)存快 100 倍左右。

SSD 隨機(jī)訪問(wèn)延時(shí)是 150 微妙，所以 CPU L1 Cache 比 SSD 快 150000 倍左右。

最慢的機(jī)械硬盤隨機(jī)訪問(wèn)延時(shí)已經(jīng)高達(dá) 10 毫秒，我們來(lái)看看機(jī)械硬盤到底有多「龜速」：

SSD 比機(jī)械硬盤快 70 倍左右；
內(nèi)存比機(jī)械硬盤快 100000 倍左右，即 10W 倍；
CPU L1 Cache 比機(jī)械硬盤快 10000000 倍左右，即 1000W倍；

我們把上述的時(shí)間比例差異放大后，就能非常直觀感受到它們的性能差異了。如果 CPU 訪問(wèn) L1 Cache 的緩存時(shí)間是 1 秒，那訪問(wèn)內(nèi)存則需要大約 2 分鐘，隨機(jī)訪問(wèn) SSD 里的數(shù)據(jù)則需要 1.7 天，訪問(wèn)機(jī)械硬盤那更久，長(zhǎng)達(dá)近 4 個(gè)月。

可以發(fā)現(xiàn)，不同的存儲(chǔ)器之間性能差距很大，構(gòu)造存儲(chǔ)器分級(jí)很有意義，分級(jí)的目的是要構(gòu)造緩存體系。