秒殺系統(tǒng)設(shè)計~億級用戶
個人從事電商行業(yè)十幾年,經(jīng)歷過大大小小的促銷活動和秒殺上百次,每次做秒殺瞬時訪問量會翻數(shù)十倍,甚至數(shù)百倍。對系統(tǒng)架構(gòu)是巨大的考驗,期間也曾經(jīng)歷過系統(tǒng)宕機,甚至整體雪崩。那么我們怎么設(shè)計秒殺系統(tǒng),才能保證秒殺系統(tǒng)的高性能和穩(wěn)定性,同時還要保證日常業(yè)務(wù)不受影響呢?
先看看秒殺場景特點。秒殺開始前幾分鐘,大量用戶開始進入秒殺商品詳情頁面,很多人開始頻繁刷新秒殺商品詳情頁,這時秒殺商品詳情頁訪問量會猛增。秒殺開始,大量用戶開始搶購,這時創(chuàng)建訂單,扣庫存壓力會顯著增大。實際上,秒殺場景基本都是秒殺參與人多,秒殺成功的人卻寥寥無幾,經(jīng)常是幾十萬人或者更多人搶幾百個商品庫存。
那么我們曾經(jīng)是怎么設(shè)計秒殺系統(tǒng)的呢?主要涉及以下幾個方面:
秒殺業(yè)務(wù)流程上的考慮:
由于參加秒殺的商品售賣價格非常低,基本都是“搶到即賺到”,成功下單后卻不付款的情況非常少。所以我們采用下單減庫存的方案,下單時扣減庫存,然后再進行支付。假如真有個別訂單不付款怎么辦?沒關(guān)系,秒殺好活動最主要的目的是吸引流量,個別訂單不支付對秒殺活動本身影響不大。況且,沒支付剩下的庫存還可以做為普通商品繼續(xù)售賣。不過要注意對機器人和自動腳本的防御,后面會詳細介紹。
頁面靜態(tài)化:
“秒殺開始前幾分鐘,大量用戶開始進入秒殺商品詳情頁面,很多人開始頻繁刷新秒殺商品詳情頁,這時秒殺商品詳情頁訪問量會猛增”。如果請求全部打到后端服務(wù),那后端服務(wù)的壓力會非常大(后端服務(wù)要處理業(yè)務(wù)邏輯,而且還要訪問數(shù)據(jù)庫,吞吐量比較低)。
考慮到秒殺是運營同學(xué)提前安排的活動,要秒殺哪些商品、商品價格等信息在秒殺活動開始前已經(jīng)確定下來,所以我們可以把秒殺商品詳情頁做成靜態(tài)頁面,把商品詳情、商品價格等參數(shù)、評論評價等信息全部放在這個靜態(tài)頁面里,然后把這個靜態(tài)頁面上傳到CDN上預(yù)熱(CDN是內(nèi)容分發(fā)網(wǎng)絡(luò),可以簡單理解成互聯(lián)網(wǎng)上的巨大的緩存,用于存放靜態(tài)頁面、圖片、視頻等,可以顯著提高訪問速度),用CDN扛流量,這樣大量的商品詳情頁的訪問請求就不用訪問自己的網(wǎng)站(源站)。這樣既可以提高訪問速度,也沒有給網(wǎng)站增加壓力,同時也減少了網(wǎng)站帶寬壓力。
請求攔截:
前端頁面,相關(guān)按鈕點擊后置灰,防止重復(fù)提交
網(wǎng)關(guān)(zuul,nginx)層,為了避免前端惡意請求,比如一些攻擊腳本,在網(wǎng)關(guān)層要對下單等接口按userID限流,幾秒鐘只能訪問一次??紤]到秒殺場景參與人多,秒殺成功的人極少,我們可以把絕大部分搶購下單請求在網(wǎng)關(guān)層直接拒掉,按秒殺失敗處理。這樣就極大減少了后端服務(wù)的壓力。
假設(shè)秒殺庫存是200個,我們可以只放行200個請求到后端服務(wù)。要注意,為了盡量避免庫存被機器人和自動腳本搶走,200個請求不能在秒殺開始瞬間同時放行,可以分段放行,比如秒殺開始后隨機選取100ms內(nèi)的5個請求放行(這100ms內(nèi)的其他請求直接拒掉,按秒殺失敗處理),之后每隔100ms放行5個請求,4秒鐘可以放行完200個請求。分段放行,除了限制了機器人和自動腳本,把請求分散在各個時間段,還進一步緩解了后端服務(wù)的壓力。
分段放行總時間不能太長,假如每100ms放行1個請求,放行完所有200個請求需要20秒時間,這樣用戶就會明顯感知到下單早的人沒秒殺成功,下單晚的人反而秒殺成功了,用戶體驗會變差。
另外,秒殺過程網(wǎng)關(guān)壓力會比較大,網(wǎng)關(guān)可以做成集群,多節(jié)點分攤訪問壓力。
后端服務(wù)設(shè)計:
如果秒殺庫存只有200,經(jīng)過網(wǎng)關(guān)攔截,再加上采用分段放行的方式,對于后端服務(wù)基本沒什么壓力了,日常的后端服務(wù)就完全可以支撐秒殺活動了。不用再做更復(fù)雜的設(shè)計。不過,假如秒殺庫存有幾萬個,放行的下單請求就有幾萬個,為了用戶體驗放行總時間也不能太長,這時后端服務(wù)該怎么設(shè)計呢?
這時主要壓力就在數(shù)據(jù)庫了,扣減庫存壓力,創(chuàng)建訂單壓力。
庫存可以放到Reids緩存中,來提高扣減庫存吞吐能力。對于熱點商品的庫存可以利用Redis分片存儲。
創(chuàng)建訂單可以走異步消息隊列。后端服務(wù)接到下單請求,直接放進消息隊列,監(jiān)聽服務(wù)取出消息后,先將訂單信息寫入Redis,每隔100ms或者積攢100條訂單,批量寫入數(shù)據(jù)庫一次。前端頁面下單后定時向后端拉取訂單信息,獲取到訂單信息后跳轉(zhuǎn)到支付頁面。用這種批量異步寫入數(shù)據(jù)庫的方式大幅減少了數(shù)據(jù)庫寫入頻次,從而明顯降低了訂單數(shù)據(jù)庫寫入壓力。
隔離:
1,業(yè)務(wù)隔離。從業(yè)務(wù)上把秒殺和日常的售賣區(qū)分開來,把秒殺做為營銷活動,要參與秒殺的商品需要提前報名參加活動,這樣我們就能提前知道哪些商家哪些商品要參與秒殺,可以根據(jù)提報的商品提前生成靜態(tài)頁面并上傳到CDN預(yù)熱,提報的商品庫存也需要提前預(yù)熱,可以將商品庫存在活動開始前預(yù)熱到Redis,避免秒殺開始后大量的緩存穿透。
2,部署隔離。秒殺相關(guān)服務(wù)和日常服務(wù)要分組部署,不能因為秒殺出問題影響日常售賣業(yè)務(wù)??梢陨暾垎为毜拿霘⒂蛎?,從網(wǎng)絡(luò)入口層就開始分流。網(wǎng)關(guān)也單獨部署,秒殺走自己單獨的網(wǎng)關(guān),從而避免日常網(wǎng)關(guān)受到影響。秒殺可以復(fù)用訂單,庫存,支付等日常服務(wù),只是需要一些小的改造(比如下單流程走消息隊列,批量寫入訂單庫,以及在Redis中扣減庫存)。
3,數(shù)據(jù)隔離。為了避免秒殺活動影響到日常售賣業(yè)務(wù),Redis緩存需要單獨部署,甚至數(shù)據(jù)庫也需要單獨部署!數(shù)據(jù)隔離后,秒殺剩余的庫存怎么辦?秒殺活動結(jié)束后,剩余庫存可以歸還到日常庫存繼續(xù)做為普通商品售賣。數(shù)據(jù)隔離后,秒殺訂單和日常訂單不在相同的數(shù)據(jù)庫,之后的訂單查詢怎么展示?可以在創(chuàng)建秒殺訂單后發(fā)消息到消息隊列,日常訂單服務(wù)采取拉的方式消費消息,這時日常訂單服務(wù)是主動方,可以采用線程池的方式,根據(jù)機器的性能來增加或縮小線程池的大小,控制拉取消息的速度,來控制訂單數(shù)據(jù)庫的寫入壓力。
網(wǎng)絡(luò):
秒殺前要和網(wǎng)絡(luò)運營商、CDN服務(wù)商提前申請帶寬。
還有哪些細節(jié)要考慮:
-
如何避免超賣?如果在redis中扣減庫存,可以利用decr命令扣減庫存,decr是原子操作,在分布式環(huán)境下也不會有并發(fā)問題,decr扣減庫存后,判斷返回值,如果返回值小于0,扣減庫存失敗,秒殺也就失敗了;如果在數(shù)據(jù)庫中扣減庫存可以在where后面加上庫存大于0的條件,來避免庫存被減成負值。這樣就可以避免超賣情況發(fā)生了。
-
接口防刷,前面已經(jīng)提到過,在網(wǎng)關(guān)層對下單等接口按userID限流。
-
網(wǎng)關(guān)層除了對userID做限流外,還要做整體限流。在實際訪問量超過預(yù)估訪問量時,整體限流可以起到保護作用,避免系統(tǒng)被壓垮。
-
防止重復(fù)下單,按userID限流已經(jīng)起到了防止重復(fù)下單的作用。假如限制同一個用戶10分鐘能下一次單,一般情況下10分鐘內(nèi),商品早已經(jīng)被搶光了,用戶也就沒有再次下單的機會了。
-
可以結(jié)合風(fēng)控系統(tǒng),在網(wǎng)關(guān)層把羊毛黨等有問題的用戶請求直接拒掉。
-
可以在網(wǎng)關(guān)層上面再加一層防火墻或者高防服務(wù),來防御DDos等分布式網(wǎng)絡(luò)攻擊。
好啦,就分享到這里。
免責(zé)聲明:本文內(nèi)容由21ic獲得授權(quán)后發(fā)布,版權(quán)歸原作者所有,本平臺僅提供信息存儲服務(wù)。文章僅代表作者個人觀點,不代表本平臺立場,如有問題,請聯(lián)系我們,謝謝!