服務(wù)器減壓,你不得不知的緩存使用技巧

為什么使用緩存

一般情況下，在訪問量達(dá)到一定規(guī)模后，數(shù)據(jù)庫的讀寫會成為一個(gè)瓶頸，我們會采用一些手段來對數(shù)據(jù)庫減壓，讓它可以正常的工作?？梢钥紤]的手段包括讀寫分離、添加緩存服務(wù)器等，讀寫分離是為了盡量將對數(shù)據(jù)庫的讀寫動(dòng)作分開，減少互相之間的影響；添加緩存是為了讀庫的時(shí)候，減少直接讀取數(shù)據(jù)庫的動(dòng)作，將查詢的結(jié)果存放在緩存中，用戶的請求被隔絕在數(shù)據(jù)庫以外，從而減少數(shù)據(jù)庫的壓力。

這是一個(gè)理想狀況下緩存工作的方式，但僅僅是理想

緩存穿透

所謂緩存穿透，是說用戶請求在緩存系統(tǒng)中查找結(jié)果時(shí)候失效，接下來去后端存儲系統(tǒng)中查找數(shù)據(jù)，這個(gè)時(shí)候，如果數(shù)據(jù)不存在，而且這個(gè)訪問也比較大的情況下，大量的訪問會直接命中數(shù)據(jù)庫，這時(shí)候負(fù)責(zé)存儲的服務(wù)器就悲劇了（如果左圖），所以我們就需要做一些努力，使得當(dāng)數(shù)據(jù)不存在，往緩存中寫入一個(gè)標(biāo)志抑或?qū)⒖盏牟樵兘Y(jié)果存入緩存，減少這種無用的請求頻繁命中數(shù)據(jù)庫的情況（如右圖）

也可以將確認(rèn)為空或者空的查詢結(jié)果存儲到單獨(dú)的緩存區(qū)域中。

緩存雪崩

這是另外一個(gè)問題，當(dāng)系統(tǒng)使用的緩存發(fā)生意外(網(wǎng)絡(luò)失敗、宕機(jī)、服務(wù)掛掉、緩存集體丟失等等)之后，緩存集體失效，導(dǎo)致短時(shí)間內(nèi)請求都到達(dá)數(shù)據(jù)庫(數(shù)據(jù)存儲層)，使得數(shù)據(jù)庫壓力山大進(jìn)而crash掉。

為了預(yù)防這種情況，我們采用一下幾種方式：

1、我們采用多實(shí)例的方式來保證緩存的高可用性，盡量避免當(dāng)個(gè)別實(shí)例出現(xiàn)問題之后，引起全局緩存的問題。這類方案很多，比如memcache的一致性hash，redis的cluster機(jī)制，來避免單點(diǎn)的故障，這類資料可以搜索一下關(guān)于redis或者memcache的高可用方案。

2、降級機(jī)制。這個(gè)方法在很多高可用設(shè)計(jì)中可能也有描述，簡單一點(diǎn)說就是我們將用戶與用戶之間，資源與資源之間進(jìn)行隔離，當(dāng)某一部分?jǐn)?shù)據(jù)產(chǎn)生問題之后或者對某一部分的請求到達(dá)一個(gè)閥值之后，根據(jù)預(yù)設(shè)的機(jī)制，對請求只返回?zé)狳c(diǎn)數(shù)據(jù)，保證客戶端不會產(chǎn)生天窗或者說一直無法響應(yīng)的問題。

3、加鎖。對于到達(dá)的請求，我們用鎖的機(jī)制，來盡量使它們排隊(duì)處理從而減少對數(shù)據(jù)庫產(chǎn)生并發(fā)。可以參考的鎖方案有兩種，一種是使用全局鎖或者字符串鎖等方案，是一個(gè)請求進(jìn)行操作的時(shí)候，其他的請求處于等待狀態(tài)，當(dāng)這個(gè)請求處理完畢之后進(jìn)行下一步的業(yè)務(wù)處理，但是這樣的話如果一個(gè)請求掛掉，會對后面排隊(duì)的請求產(chǎn)生影響，而且請求的處理可能不會短時(shí)間處理完畢，會導(dǎo)致請求阻塞的時(shí)間過長等問題，第二種方案就是在進(jìn)行操作的時(shí)候，其他請求進(jìn)來的時(shí)候判斷是否有鎖存在，如果存在直接跳過處理，返回?zé)狳c(diǎn)數(shù)據(jù)。

需要說的是降級機(jī)制未必要放到圖中這個(gè)位置，也可以放在緩存之前或其他的位置，它的主要目的是當(dāng)出現(xiàn)問題時(shí)候隔離掉出現(xiàn)問題的資源不影響客戶端的內(nèi)容或者使一部分用戶的請求無法到達(dá)真正的業(yè)務(wù)邏輯從而減少業(yè)務(wù)處理的壓力。

海外服務(wù)器免費(fèi)測試：http://running-capacitor.com/