www.久久久久|狼友网站av天堂|精品国产无码a片|一级av色欲av|91在线播放视频|亚洲无码主播在线|国产精品草久在线|明星AV网站在线|污污内射久久一区|婷婷综合视频网站

當(dāng)前位置:首頁 > 公眾號(hào)精選 > 架構(gòu)師社區(qū)
[導(dǎo)讀]從一個(gè)問題說起 五年前在騰訊的時(shí)候,發(fā)現(xiàn)分頁場(chǎng)景下,mysql請(qǐng)求速度非常慢。數(shù)據(jù)量只有10w的情況下,select xx from 單機(jī)大概2,3秒。 我就問我?guī)煾笧槭裁?,他反問“索引?chǎng)景,mysql中獲得第n大的數(shù),時(shí)間復(fù)雜度是多少?” 答案的追尋 確認(rèn)場(chǎng)景 假設(shè)status上



從一個(gè)問題說起

五年前在騰訊的時(shí)候,發(fā)現(xiàn)分頁場(chǎng)景下,mysql請(qǐng)求速度非常慢。數(shù)據(jù)量只有10w的情況下,select xx from 單機(jī)大概2,3秒。
我就問我?guī)煾笧槭裁?,他反問“索引?chǎng)景,mysql中獲得第n大的數(shù),時(shí)間復(fù)雜度是多少?”

答案的追尋

確認(rèn)場(chǎng)景

假設(shè)status上面有索引。select * from table where status = xx limit 10 offset 10000。
會(huì)非常慢。數(shù)據(jù)量不大的情況就有幾秒延遲。

小白作答

那時(shí)候非常有安全感,有啥事都有師父兜著,反正技術(shù)都是組里最差的,就瞎猜了個(gè)log(N),心想找一個(gè)節(jié)點(diǎn)不就是log(N)。自然而然,師父讓我自己去研究。
這一階段,用了10分鐘。

繼續(xù)解答

仔細(xì)分析一下,會(huì)發(fā)現(xiàn)通過索引去找很別扭。因?yàn)槟悴恢狼?00個(gè)數(shù)在左子樹和右子數(shù)的分布情況,所以其是無法利用二叉樹的查找特性。
通過學(xué)習(xí),了解到mysql的索引是b+樹。可以直接通過葉子節(jié)點(diǎn)組成的鏈表,以o(n)的復(fù)雜度找到第100大的樹。但是即使是o(n),也不至于慢得令人發(fā)指,是否還有原因。 
這一階段,主要是通過網(wǎng)上查資料,斷斷續(xù)續(xù)用了10天。

系統(tǒng)學(xué)習(xí)

這里推薦兩本書,一本《MySQL技術(shù)內(nèi)幕 InnoDB存儲(chǔ)引擎》,通過他可以對(duì)InnoDB的實(shí)現(xiàn)機(jī)制,如mvcc,索引實(shí)現(xiàn),文件存儲(chǔ)會(huì)有更深理解。
第二本是《高性能MySQL》,這本書從著手使用層面,但講得比較深入,而且提到了很多設(shè)計(jì)的思路。
兩本書相結(jié)合,反復(fù)領(lǐng)會(huì),mysql就勉強(qiáng)能登堂入室了。
這里有兩個(gè)關(guān)鍵概念:
  • 聚簇索引:包含主鍵索引和對(duì)應(yīng)的實(shí)際數(shù)據(jù),索引的葉子節(jié)點(diǎn)就是數(shù)據(jù)節(jié)點(diǎn)
  • 輔助索引:可以理解為二級(jí)節(jié)點(diǎn),其葉子節(jié)點(diǎn)還是索引節(jié)點(diǎn),包含了主鍵id。
即使前10000個(gè)會(huì)扔掉,mysql也會(huì)通過二級(jí)索引上的主鍵id,去聚簇索引上查一遍數(shù)據(jù),這可是10000次隨機(jī)io,自然慢成哈士奇。
這里可能會(huì)提出疑問,為什么會(huì)有這種行為,這是和mysql的分層有關(guān)系,limit offset 只能作用于引擎層返回的結(jié)果集。換句話說,引擎層也很無辜,他并不知道這10000個(gè)是要扔掉的。
從mysql分層示意圖可以看到,引擎層和server層,實(shí)際是分開的。
直到此時(shí),大概明白了慢的原因。這一階段,用了一年。

觸類旁通

此時(shí)工作已經(jīng)3年了,也開始看一些源碼。在看完etcd之后,看了些tidb的源碼。無論哪種數(shù)據(jù)庫,其實(shí)一條語句的查詢,是由邏輯算子組成。
邏輯算子介紹
在寫具體的優(yōu)化規(guī)則之前,先簡(jiǎn)單介紹查詢計(jì)劃里面的一些邏輯算子。
  • DataSource 這個(gè)就是數(shù)據(jù)源,也就是表,select * from t 里面的 t。
  • Selection 選擇,例如 select xxx from t where xx = 5 里面的 where 過濾條件。
  • Projection 投影, select c from t 里面的取 c 列是投影操作。
  • Join 連接, select xx from t1, t2 where t1.c = t2.c 就是把 t1 t2 兩個(gè)表做 Join。
選擇,投影,連接(簡(jiǎn)稱 SPJ) 是最基本的算子。其中 Join 有內(nèi)連接,左外右外連接等多種連接方式。
select b from t1, t2 where t1.c = t2.c and t1.a > 5變成邏輯查詢計(jì)劃之后,t1 t2 對(duì)應(yīng)的 DataSource,負(fù)責(zé)將數(shù)據(jù)撈上來。
上面接個(gè) Join 算子,將兩個(gè)表的結(jié)果按 t1.c = t2.c連接,再按 t1.a > 5 做一個(gè) Selection 過濾,最后將 b 列投影。
所以說,不是mysql不想把limit, offset傳遞給引擎層,而是因?yàn)閯澐至诉壿嬎阕?,所以?dǎo)致無法直到具體算子包含了多少符合條件的數(shù)據(jù)。

怎么解決

《高性能MySQL》提到了兩種方案

方案一

根據(jù)業(yè)務(wù)實(shí)際需求,看能否替換為下一頁,上一頁的功能,特別在ios, android端,以前那種完全的分頁是不常見的。
這里是說,把limit, offset,替換為>輔助索引(即搜索條件)id的方式。該id再調(diào)用時(shí),需要返回給前端。

方案二

正面剛。這里介紹一個(gè)概念:索引覆蓋:當(dāng)輔助索引查詢的數(shù)據(jù),只有id和輔助索引本身,那么就不必再去查聚簇索引。
思路如下:select xxx,xxx from in (select id from table where second_index = xxx limit 10 offset 10000)這句話是說,先從條件查詢中,查找數(shù)據(jù)對(duì)應(yīng)的數(shù)據(jù)庫唯一id值,因?yàn)橹麈I在輔助索引上就有,所以不用回歸到聚簇索引的磁盤去拉取。再通過這些已經(jīng)被limit出來的10個(gè)主鍵id,去查詢聚簇索引。這樣只會(huì)十次隨機(jī)io。
在業(yè)務(wù)確實(shí)需要用分頁的情況下,使用該方案可以大幅度提高性能。通常能滿足性能要求。

寫在最后

非常感謝我?guī)煾冈谖耶厴I(yè)前三年的指導(dǎo),給了我很多耐心。在節(jié)假日給我布置看書任務(wù),在午休時(shí)候考察我學(xué)習(xí)的進(jìn)展,通過提問的方式引導(dǎo)我去探索問題,在我從騰訊畢業(yè)后,每次見面也給我出了很多主意,傳授授業(yè)解惑,無一沒有做到極致。

作者:葉不聞

juejin.im/post/5c4db295e51d4503834d9c43

特別推薦一個(gè)分享架構(gòu)+算法的優(yōu)質(zhì)內(nèi)容,還沒關(guān)注的小伙伴,可以長按關(guān)注一下:

從 MySQL 執(zhí)行原理告訴你:為什么分頁場(chǎng)景下,請(qǐng)求速度非常慢?

從 MySQL 執(zhí)行原理告訴你:為什么分頁場(chǎng)景下,請(qǐng)求速度非常慢?

從 MySQL 執(zhí)行原理告訴你:為什么分頁場(chǎng)景下,請(qǐng)求速度非常慢?

長按訂閱更多精彩▼

從 MySQL 執(zhí)行原理告訴你:為什么分頁場(chǎng)景下,請(qǐng)求速度非常慢?

如有收獲,點(diǎn)個(gè)在看,誠摯感謝

免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。文章僅代表作者個(gè)人觀點(diǎn),不代表本平臺(tái)立場(chǎng),如有問題,請(qǐng)聯(lián)系我們,謝謝!

本站聲明: 本文章由作者或相關(guān)機(jī)構(gòu)授權(quán)發(fā)布,目的在于傳遞更多信息,并不代表本站贊同其觀點(diǎn),本站亦不保證或承諾內(nèi)容真實(shí)性等。需要轉(zhuǎn)載請(qǐng)聯(lián)系該專欄作者,如若文章內(nèi)容侵犯您的權(quán)益,請(qǐng)及時(shí)聯(lián)系本站刪除。
關(guān)閉
關(guān)閉