www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 公眾號(hào)精選 > Linux閱碼場(chǎng)
[導(dǎo)讀]先來看段代碼:這段代碼非常簡(jiǎn)單,就是先用mmap的方式,為該進(jìn)程分配10GiB的虛擬內(nèi)存,然后再用page寫

先來看段代碼:

這段代碼非常簡(jiǎn)單,就是先用mmap的方式,為該進(jìn)程分配10GiB的虛擬內(nèi)存,然后再用page寫的方式,讓操作系統(tǒng)為這10GiB虛擬內(nèi)存,分配對(duì)應(yīng)的物理內(nèi)存,最后sleep,等待我們測(cè)試。
運(yùn)行下:

沒啥問題,和我們預(yù)期的一樣,正常執(zhí)行。
打開另一個(gè)終端,執(zhí)行以下命令,看下它的內(nèi)存占用:

上圖中的VSZ指的是虛擬內(nèi)存,RSS指的是物理內(nèi)存,單位都是KiB,所以該進(jìn)程虛擬內(nèi)存和物理內(nèi)存的使用,都約等于10GiB,沒問題。
我們?cè)匍_個(gè)終端,再執(zhí)行下這個(gè)程序:

第二次執(zhí)行這個(gè)程序也沒問題,但奇怪的是,此時(shí)第一次執(zhí)行的那個(gè)程序卻被kill掉了:

這是為什么呢?
上面我們說到,該程序的邏輯是分配10GiB的物理內(nèi)存,所以運(yùn)行兩次,也就是要分配20GiB的物理內(nèi)存。
但在我們的測(cè)試機(jī)器上,物理內(nèi)存一共才16GiB,所以,運(yùn)行兩個(gè)這樣的進(jìn)程肯定是不行的。
在第二次執(zhí)行該程序,且向操作系統(tǒng)申請(qǐng)物理內(nèi)存時(shí),操作系統(tǒng)會(huì)發(fā)現(xiàn),物理內(nèi)存已經(jīng)沒有了。
此時(shí),為了防止整個(gè)系統(tǒng)crash掉,linux內(nèi)核會(huì)觸發(fā) OOM/Out of Memory killing 機(jī)制,即按照一定的規(guī)則選擇一個(gè)進(jìn)程,將其kill掉,以便回收物理內(nèi)存,以此來保證機(jī)器整體的穩(wěn)定運(yùn)行。
同時(shí),該kill事件,也會(huì)被記錄到內(nèi)核日志中,且可通過dmesg命令等方式查看。
比如上面第一個(gè)進(jìn)程被kill掉的事件記錄如下:

看上面紅色字體行,該行是說,進(jìn)程14134因?yàn)閛ut of memory被linux內(nèi)核kill掉了,該進(jìn)程正是上面我們第一次執(zhí)行的那個(gè)程序。
linux內(nèi)核的oom killing機(jī)制,其實(shí)是一種棄車保帥的做法,因?yàn)槿绻覀儾籯ill掉某進(jìn)程,來釋放物理內(nèi)存的話,那很有可能會(huì)導(dǎo)致后續(xù)系統(tǒng)級(jí)別的crash,兩害相權(quán)取其輕,操作系統(tǒng)只能這樣處理,歸根結(jié)底,是我們對(duì)進(jìn)程使用物理內(nèi)存的規(guī)劃不足,才導(dǎo)致了這種情況。
那為什么不在第二次執(zhí)行該程序時(shí),在調(diào)用mmap分配虛擬內(nèi)存時(shí)就直接報(bào)錯(cuò),返回?zé)o法分配內(nèi)存呢?
這是因?yàn)?,?jīng)過多年觀察,linux內(nèi)核的開發(fā)人員發(fā)現(xiàn),絕大部分程序在分配了很大的虛擬內(nèi)存之后,在大部分時(shí)間里,并不會(huì)一直使用這么多的物理內(nèi)存。
所以,為了更合理更高效的利用物理內(nèi)存資源,linux內(nèi)核允許虛擬內(nèi)存的overcommit,即,例如在上面執(zhí)行mmap分配虛擬內(nèi)存時(shí),linux內(nèi)核并不會(huì)嚴(yán)格檢查,所有運(yùn)行中的進(jìn)程分配的虛擬內(nèi)存加起來,是否超過了整個(gè)物理內(nèi)存大小。
這也就解釋了為什么上面第二次運(yùn)行該程序時(shí),mmap是沒有報(bào)錯(cuò)的。
但是,雖然mmap的虛擬內(nèi)存分配成功了,但當(dāng)真正使用該內(nèi)存時(shí),比如上面的寫內(nèi)存,此時(shí)要分配物理內(nèi)存,則是有可能失敗的,因?yàn)樘摂M內(nèi)存的overcommit,很可能導(dǎo)致后續(xù)的物理內(nèi)存不足。
如果真的發(fā)生了這種情況,就會(huì)觸發(fā)linux內(nèi)核的oom killing機(jī)制,即linux內(nèi)核中的oom killer會(huì)按一定的規(guī)則,選一個(gè)進(jìn)程,將其kill掉,這個(gè)上面我們已經(jīng)演示過了。
那為什么不kill掉第二個(gè)進(jìn)程,而是kill掉第一個(gè)呢?
這個(gè)和linux內(nèi)核中oom killer的選擇策略有關(guān),我們直接看源碼:

當(dāng)進(jìn)程請(qǐng)求操作系統(tǒng)為其分配物理內(nèi)存時(shí),如果此時(shí)物理內(nèi)存已經(jīng)沒有了,則會(huì)觸發(fā)上圖中的out_of_memory函數(shù)。
該函數(shù)中,會(huì)使用select_bad_process選擇要被kill掉的進(jìn)程,然后使用oom_kill_process將其kill掉,來釋放物理內(nèi)存。
在看select_bad_process之前,我們先看下oom_kill_process。

該函數(shù)調(diào)用了__oom_kill_process:

在上面的函數(shù)中,通過向victim進(jìn)程發(fā)送SIGKILL這個(gè)signal(我們平時(shí)使用的kill -9命令,就是用的這個(gè)signal),將其kill掉,然后該kill事件,會(huì)被記錄到內(nèi)核日志中。
注意,這里記錄的日志格式,正好和我們上面用dmesg輸出的,14134進(jìn)程被kill掉事件日志格式完全一樣。
kill掉進(jìn)程的過程就是這樣,我們?cè)賮砜聪聅elect_bad_process函數(shù)是如何選擇要被kill掉進(jìn)程的:

在該函數(shù)中,會(huì)遍歷系統(tǒng)中的所有進(jìn)程,然后使用oom_evaluate_task這個(gè)函數(shù),對(duì)各個(gè)進(jìn)程進(jìn)行評(píng)估:

oom_evaluate_task函數(shù)中,會(huì)使用oom_badness,計(jì)算某進(jìn)程badness的點(diǎn)數(shù),點(diǎn)數(shù)越高,越容易被kill掉。
如果badness的點(diǎn)數(shù)是LONG_MIN這個(gè)特殊值,則直接跳過該進(jìn)程,即該進(jìn)程不會(huì)成為被kill掉的對(duì)象,如果badness點(diǎn)數(shù)小于之前選擇進(jìn)程的badness點(diǎn)數(shù),同樣也跳過該進(jìn)程,即被kill掉的進(jìn)程badness點(diǎn)數(shù)要是最大的。
遍歷中選擇的進(jìn)程,及其badness的點(diǎn)數(shù),會(huì)被賦值到oc->chosen和oc->chosen_points里,oc->chosen最終指向的進(jìn)程,就是上面oom_kill_process里kill掉的進(jìn)程。
我們?cè)賮砜聪耣adness點(diǎn)數(shù)是如何計(jì)算的:

該函數(shù)主體邏輯分成兩部分,一部分是,在某些情況下,該進(jìn)程的badness點(diǎn)數(shù)直接返回LONG_MIN,即不會(huì)被kill掉。
這些情況包括,oom_score_adj的值為OOM_SCORE_ADJ_MIN,即-1000,或者該進(jìn)程已經(jīng)在被kill的過程中了,或者該進(jìn)程在vfork過程中。
該函數(shù)邏輯的另外一部分就是計(jì)算進(jìn)程的badness點(diǎn)數(shù),其大致計(jì)算規(guī)則為:
points = 該進(jìn)程占用的物理內(nèi)存總數(shù)  總物理內(nèi)存 * oom_score_adj值的千分比。
oom_score_adj的值,是進(jìn)程獨(dú)有的,是可以通過寫 /proc/[pid]/oom_score_adj 的方式調(diào)整的,取值范圍為 -1000 到 1000。
該值越大,進(jìn)程總的badness點(diǎn)數(shù)就會(huì)越大,進(jìn)程也就越容易被kill掉。
該值越小,進(jìn)程總的badness點(diǎn)數(shù)就會(huì)越小,該進(jìn)程也就越不容易被kill掉。
上面我們還提到oom_score_adj有一個(gè)特殊值為OOM_SCORE_ADJ_MIN,即-1000,表示該進(jìn)程不能被kill掉。
各進(jìn)程的oom_score_adj的值默認(rèn)為0。
綜上可知,linux內(nèi)核中oom killer選擇被kill進(jìn)程的方式,就是看各進(jìn)程badness點(diǎn)數(shù)的大小。
默認(rèn)情況下,因?yàn)楦鬟M(jìn)程的oom_score_adj的值都為0,所以進(jìn)程占用的物理內(nèi)存越大,其badness點(diǎn)數(shù)也就越大,其也就越容易被kill掉。

這也就解釋了,為什么上面在第二次執(zhí)行那個(gè)程序時(shí),被kill掉的是第一次執(zhí)行的那個(gè)進(jìn)程,而不是第二次執(zhí)行的進(jìn)程,因?yàn)榈谝淮螆?zhí)行的那個(gè)進(jìn)程,占用的物理內(nèi)存更大。

其實(shí),調(diào)整linux內(nèi)核中oom killer行為的方式有很多,不止修改oom_score_adj值這一種方法。
比如,通過修改 /proc/sys/vm/panic_on_oom 的值,可以讓整個(gè)系統(tǒng)在物理內(nèi)存不夠時(shí),直接panic,而不是選擇性的kill掉某個(gè)進(jìn)程。
比如,通過修改 /proc/sys/vm/overcommit_memory 的值,可以使上面第二次執(zhí)行的測(cè)試程序,在使用mmap分配虛擬內(nèi)存時(shí),就直接報(bào)錯(cuò),說內(nèi)存不夠。
比如,通過修改 /proc/[pid]/oom_adj 值的方式,同樣可以達(dá)到修改 /proc/[pid]/oom_score_adj 的目的,不過這個(gè)在內(nèi)核2.6.36版本之后已經(jīng)不推薦使用。
oom killer行為調(diào)整的相關(guān)參數(shù),其具體詳解可以看proc的man文檔:
https://man.archlinux.org/man/proc.5
聊了這么多,那理解linux內(nèi)核的oom killer機(jī)制,對(duì)于我們實(shí)際應(yīng)用有哪些幫助呢?
我們假設(shè)以下場(chǎng)景:
假如,我們有一臺(tái)機(jī)器,上面跑著一個(gè)非常重要的服務(wù),比如數(shù)據(jù)庫(kù),或者某個(gè)應(yīng)用進(jìn)程等。
它非常耗內(nèi)存,但是正常情況下,它使用的物理內(nèi)存肯定不會(huì)高于實(shí)際總物理內(nèi)存大小。
有一天我們需要在這臺(tái)機(jī)器上執(zhí)行一項(xiàng)任務(wù),如果這個(gè)任務(wù)也比較耗內(nèi)存,那很可能在執(zhí)行這項(xiàng)任務(wù)時(shí),整臺(tái)機(jī)器的物理內(nèi)存就完全不夠用了,此時(shí),就會(huì)觸發(fā)linux內(nèi)核的oom killing機(jī)制。
又因?yàn)樵诓徽{(diào)整oom_score_adj值的情況下,linux內(nèi)核中的oom killer默認(rèn)kill掉的,就是占用物理內(nèi)存最多的那個(gè)進(jìn)程,一般來說,就是我們數(shù)據(jù)庫(kù)進(jìn)程,或其他應(yīng)用進(jìn)程,假設(shè)這個(gè)進(jìn)程又是線上的一個(gè)重要服務(wù),那它被kill掉了,你想一下這會(huì)是多么嚴(yán)重的一個(gè)事故。
那怎么避免呢?
此時(shí),我們就可以使用上面提到的,用于調(diào)整進(jìn)程badness點(diǎn)數(shù)的,oom_score_adj 這個(gè)參數(shù)。
比如,我們可以通過 echo -1000 > /proc/[pid]/oom_score_adj 命令,將oom_score_adj的值設(shè)置為-1000,即該進(jìn)程不能被kill掉。
又比如,還是通過上面的echo命令,將oom_score_adj的值修改為一個(gè)較小的值,來降低它被kill掉的概率。
但是,這些方法其實(shí)都不是完美的解決方式。
雖然該機(jī)器上的這個(gè)重要服務(wù)不被kill掉了,但操作系統(tǒng)為了保證整個(gè)系統(tǒng)不crash,還是會(huì)kill掉其他各種進(jìn)程。
如果那些進(jìn)程不重要還好,萬一重要的話,還是會(huì)相當(dāng)嚴(yán)重的。
甚至,如果操作系統(tǒng)找不到可以kill掉的進(jìn)程,那整個(gè)系統(tǒng)就會(huì)crash,這個(gè)就更嚴(yán)重了。
所以,最好的方式,還是人為去避免物理內(nèi)存不足的情況,在機(jī)器上跑各種程序時(shí),要提前對(duì)整個(gè)物理內(nèi)存的使用,有個(gè)規(guī)劃和預(yù)判,最好是能預(yù)留出一些內(nèi)存,以防各種誤操作。
好了,該篇文章就講這些內(nèi)容,如果以后你發(fā)現(xiàn)你的進(jìn)程,莫名奇妙就沒有了,可以通過dmesg等方式看下內(nèi)核日志,確定下你的進(jìn)程是否被oom kill掉了。


本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
換一批
延伸閱讀

9月2日消息,不造車的華為或?qū)⒋呱龈蟮莫?dú)角獸公司,隨著阿維塔和賽力斯的入局,華為引望愈發(fā)顯得引人矚目。

關(guān)鍵字: 阿維塔 塞力斯 華為

倫敦2024年8月29日 /美通社/ -- 英國(guó)汽車技術(shù)公司SODA.Auto推出其旗艦產(chǎn)品SODA V,這是全球首款涵蓋汽車工程師從創(chuàng)意到認(rèn)證的所有需求的工具,可用于創(chuàng)建軟件定義汽車。 SODA V工具的開發(fā)耗時(shí)1.5...

關(guān)鍵字: 汽車 人工智能 智能驅(qū)動(dòng) BSP

北京2024年8月28日 /美通社/ -- 越來越多用戶希望企業(yè)業(yè)務(wù)能7×24不間斷運(yùn)行,同時(shí)企業(yè)卻面臨越來越多業(yè)務(wù)中斷的風(fēng)險(xiǎn),如企業(yè)系統(tǒng)復(fù)雜性的增加,頻繁的功能更新和發(fā)布等。如何確保業(yè)務(wù)連續(xù)性,提升韌性,成...

關(guān)鍵字: 亞馬遜 解密 控制平面 BSP

8月30日消息,據(jù)媒體報(bào)道,騰訊和網(wǎng)易近期正在縮減他們對(duì)日本游戲市場(chǎng)的投資。

關(guān)鍵字: 騰訊 編碼器 CPU

8月28日消息,今天上午,2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)開幕式在貴陽舉行,華為董事、質(zhì)量流程IT總裁陶景文發(fā)表了演講。

關(guān)鍵字: 華為 12nm EDA 半導(dǎo)體

8月28日消息,在2024中國(guó)國(guó)際大數(shù)據(jù)產(chǎn)業(yè)博覽會(huì)上,華為常務(wù)董事、華為云CEO張平安發(fā)表演講稱,數(shù)字世界的話語權(quán)最終是由生態(tài)的繁榮決定的。

關(guān)鍵字: 華為 12nm 手機(jī) 衛(wèi)星通信

要點(diǎn): 有效應(yīng)對(duì)環(huán)境變化,經(jīng)營(yíng)業(yè)績(jī)穩(wěn)中有升 落實(shí)提質(zhì)增效舉措,毛利潤(rùn)率延續(xù)升勢(shì) 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長(zhǎng) 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競(jìng)爭(zhēng)力 堅(jiān)持高質(zhì)量發(fā)展策略,塑強(qiáng)核心競(jìng)爭(zhēng)優(yōu)勢(shì)...

關(guān)鍵字: 通信 BSP 電信運(yùn)營(yíng)商 數(shù)字經(jīng)濟(jì)

北京2024年8月27日 /美通社/ -- 8月21日,由中央廣播電視總臺(tái)與中國(guó)電影電視技術(shù)學(xué)會(huì)聯(lián)合牽頭組建的NVI技術(shù)創(chuàng)新聯(lián)盟在BIRTV2024超高清全產(chǎn)業(yè)鏈發(fā)展研討會(huì)上宣布正式成立。 活動(dòng)現(xiàn)場(chǎng) NVI技術(shù)創(chuàng)新聯(lián)...

關(guān)鍵字: VI 傳輸協(xié)議 音頻 BSP

北京2024年8月27日 /美通社/ -- 在8月23日舉辦的2024年長(zhǎng)三角生態(tài)綠色一體化發(fā)展示范區(qū)聯(lián)合招商會(huì)上,軟通動(dòng)力信息技術(shù)(集團(tuán))股份有限公司(以下簡(jiǎn)稱"軟通動(dòng)力")與長(zhǎng)三角投資(上海)有限...

關(guān)鍵字: BSP 信息技術(shù)
關(guān)閉
關(guān)閉