新聞資訊
行業(yè)資訊
詳解大型網(wǎng)站系統(tǒng)的特點(diǎn)和架構(gòu)演化發(fā)展歷程
2023-10-19 10:22:20
摘要:大型網(wǎng)站的挑戰(zhàn)主要來(lái)自龐大的用戶,高并發(fā)的訪問(wèn)和海量數(shù)據(jù),任何簡(jiǎn)單的業(yè)務(wù)一旦需要處理數(shù)以P計(jì)的數(shù)據(jù)和面對(duì)數(shù)以億計(jì)的用戶,問(wèn)題就會(huì)變得棘手,大型網(wǎng)站架構(gòu)主要就是解決這類問(wèn)題。

隨著國(guó)內(nèi)互聯(lián)網(wǎng)行業(yè)的高速發(fā)展,我國(guó)的大型網(wǎng)站系統(tǒng)的特點(diǎn)也更加鮮明和集中了,而目前,發(fā)展最快、用戶量最大的莫過(guò)于電商網(wǎng)站和生活服務(wù)網(wǎng)站了。


大型網(wǎng)站的挑戰(zhàn)主要來(lái)自龐大的用戶,高并發(fā)的訪問(wèn)和海量數(shù)據(jù),任何簡(jiǎn)單的業(yè)務(wù)一旦需要處理數(shù)以P計(jì)的數(shù)據(jù)和面對(duì)數(shù)以億計(jì)的用戶,問(wèn)題就會(huì)變得棘手,大型網(wǎng)站架構(gòu)主要就是解決這類問(wèn)題。


大型網(wǎng)站不是從無(wú)到有一步就搭建好一個(gè)大型網(wǎng)站,而是能夠伴隨小型網(wǎng)站業(yè)務(wù)的漸進(jìn)發(fā)展,慢慢地演化成一個(gè)大型網(wǎng)站。


一、大型網(wǎng)站系統(tǒng)的特點(diǎn)

俗話說(shuō)的好:“汝欲得之,必先知之”,換而言之也是一個(gè)道理,想要使用大型網(wǎng)站系統(tǒng),你得先清楚大型網(wǎng)站系統(tǒng)的特點(diǎn)。


1、高并發(fā),大流量

需要面對(duì)高并發(fā)用戶,大流量訪問(wèn)。Google 日均 PV 35 億,日IP訪問(wèn)數(shù)3億;騰訊QQ的最大在線用戶數(shù)1.4億(2011年數(shù)據(jù))。


2、高可用

系統(tǒng)7 x 24小時(shí)不間斷服務(wù)。


3、海量數(shù)據(jù)

需要存儲(chǔ)、管理海量數(shù)據(jù),需要使用大量服務(wù)器。Facebook每周上傳的照片數(shù)量接近10億,百度收錄的網(wǎng)頁(yè)數(shù)目有數(shù)百億,Google有近百萬(wàn)臺(tái)服務(wù)器為全球用戶提供服務(wù)。


4、用戶分布廣泛,網(wǎng)絡(luò)情況復(fù)雜

許多大型互聯(lián)網(wǎng)站都是為全球用戶提供服務(wù)的,用戶分布范圍廣,各地網(wǎng)絡(luò)情況千差萬(wàn)別。在國(guó)內(nèi),還有各個(gè)運(yùn)營(yíng)商網(wǎng)絡(luò)互通難的問(wèn)題。


5、安全環(huán)境惡劣

由于互聯(lián)網(wǎng)的開(kāi)放性,使得互聯(lián)網(wǎng)站更容易受到攻擊,大型網(wǎng)站幾乎每天都會(huì)被黑客攻擊。


6、需求快速變更,發(fā)布頻繁

和傳統(tǒng)軟件的版本發(fā)布頻率不同,互聯(lián)網(wǎng)產(chǎn)品為快速適應(yīng)市場(chǎng),滿足用戶需求,其產(chǎn)品發(fā)布頻率極高。一般大型網(wǎng)站的產(chǎn)品每周都有新版本發(fā)布上線,中小型網(wǎng)站的發(fā)布更頻繁,有時(shí)候一天會(huì)發(fā)布幾十次。


7、漸進(jìn)式發(fā)展

幾乎所有的大型互聯(lián)網(wǎng)網(wǎng)站都是從一個(gè)小網(wǎng)站開(kāi)始,漸進(jìn)地發(fā)展起來(lái)的。Facebook 是扎克伯格同學(xué)在哈佛大學(xué)的宿舍里開(kāi)發(fā)的;Google的第一臺(tái)服務(wù)器部署在斯坦福大學(xué)的實(shí)驗(yàn)室;阿里巴巴是在馬云家的客廳誕生的。


好的互聯(lián)網(wǎng)產(chǎn)品都是慢慢運(yùn)營(yíng)出來(lái)的,不是一開(kāi)始就開(kāi)發(fā)好的,這也正好與網(wǎng)站架構(gòu)的發(fā)展演化過(guò)程對(duì)應(yīng)。


二、大型網(wǎng)站架構(gòu)演化發(fā)展歷程


1. 初始階段的網(wǎng)站架構(gòu)


網(wǎng)站最開(kāi)始沒(méi)有太多人訪問(wèn),只需要一臺(tái)服務(wù)器綽綽有余,如圖1,這時(shí)應(yīng)用程序、數(shù)據(jù)庫(kù)、文件等所有的資源都在一臺(tái)服務(wù)器上。通常是Linux+Apache+Mysql+PHP架構(gòu)。


2. 應(yīng)用服務(wù)器和數(shù)據(jù)服務(wù)分離

隨著網(wǎng)站業(yè)務(wù)的發(fā)展,一臺(tái)服務(wù)器逐漸不能滿足需求:越來(lái)越多的用戶訪問(wèn)導(dǎo)致性能越來(lái)越差,越來(lái)越多的數(shù)據(jù)導(dǎo)致存儲(chǔ)空間不足。這是就需要將應(yīng)用和數(shù)據(jù)分離。應(yīng)用和數(shù)據(jù)分離后整個(gè)網(wǎng)站使用三臺(tái)服務(wù)器:應(yīng)用服務(wù)器、文件服務(wù)器和數(shù)據(jù)庫(kù)服務(wù)器,如圖2所示。


應(yīng)用和數(shù)據(jù)分離后,不同特性的服務(wù)器承擔(dān)不同的服務(wù)角色,網(wǎng)站的并發(fā)處理能力和數(shù)據(jù)存儲(chǔ)空間得到了很大改善,支持網(wǎng)站的業(yè)務(wù)進(jìn)一步發(fā)展。但是隨著用戶逐漸增多,網(wǎng)站又一次面臨挑戰(zhàn):數(shù)據(jù)庫(kù)壓力太大導(dǎo)致訪問(wèn)延遲,進(jìn)而影響整個(gè)網(wǎng)站的性能,用戶體驗(yàn)收到影響,需要進(jìn)一步優(yōu)化。

3. 使用緩存改善網(wǎng)站性能

網(wǎng)站使用緩存分為兩種:緩存在應(yīng)用服務(wù)器上的本地緩存和緩存在專門(mén)的分布式緩存服務(wù)器上的遠(yuǎn)程緩存。本地緩存的訪問(wèn)速度更快一些,但是受應(yīng)用服務(wù)器內(nèi)存限制,其緩存數(shù)據(jù)量有限,而且會(huì)出現(xiàn)和應(yīng)用程序爭(zhēng)用內(nèi)存的情況。遠(yuǎn)程分布式緩存可以使用集群的方式,部署大內(nèi)存的服務(wù)器作為專門(mén)的緩存服務(wù)器,可以在理論上做到不受內(nèi)存容量限制的緩存服務(wù),如圖3所示。
使用緩存后,數(shù)據(jù)訪問(wèn)壓力得到有效緩解,但是單一應(yīng)用服務(wù)器能夠處理的請(qǐng)求連接數(shù)有限,在網(wǎng)站訪問(wèn)高峰期,應(yīng)用服務(wù)器成為整個(gè)網(wǎng)站的瓶頸。


4. 使用應(yīng)用服務(wù)器集群改善網(wǎng)站的并發(fā)處理能力

使用集群是完整解決高并發(fā)、海量數(shù)據(jù)問(wèn)題的常用手段。當(dāng)一臺(tái)服務(wù)器的處理能力,存儲(chǔ)空間不足時(shí),通過(guò)增加一臺(tái)服務(wù)器分擔(dān)原有的服務(wù)器的訪問(wèn)及存儲(chǔ)壓力。對(duì)網(wǎng)站結(jié)構(gòu)而言,只要能通過(guò)增加一臺(tái)服務(wù)器的方式改善負(fù)載壓力,就可以同樣的方式持續(xù)增加服務(wù)器不斷改善系統(tǒng)性能,從而實(shí)現(xiàn)系統(tǒng)的可伸縮性。
通過(guò)負(fù)載均衡調(diào)度服務(wù)器,可將來(lái)自用戶瀏覽器的訪問(wèn)請(qǐng)求分發(fā)到應(yīng)用服務(wù)器的集群中的任何一臺(tái)服務(wù)器上,如果有更多的用戶,就在集群中假如更多的應(yīng)用服務(wù)器,使應(yīng)用服務(wù)器的負(fù)載壓力不再成為整個(gè)網(wǎng)站的瓶頸。


5. 數(shù)據(jù)庫(kù)讀寫(xiě)分離

網(wǎng)站在使用緩存后,使絕大部分的數(shù)據(jù)讀操作訪問(wèn)都可以不通過(guò)數(shù)據(jù)庫(kù)就能完成,但是仍有一部分讀操作(緩存訪問(wèn)不命中、緩存過(guò)期)和全部的寫(xiě)操作需要訪問(wèn)數(shù)據(jù)庫(kù),在網(wǎng)站的用戶達(dá)到一定的規(guī)模后,數(shù)據(jù)庫(kù)因?yàn)樨?fù)載壓力過(guò)高而成為網(wǎng)站的瓶頸。
目前大部分的主流數(shù)據(jù)庫(kù)都提供主從熱備功能,通過(guò)配置兩臺(tái)數(shù)據(jù)庫(kù)主從關(guān)系,可以將一臺(tái)數(shù)據(jù)庫(kù)服務(wù)器的數(shù)據(jù)庫(kù)更新同步到另一臺(tái)服務(wù)器上。網(wǎng)站利用數(shù)據(jù)庫(kù)的這一功能實(shí)現(xiàn)數(shù)據(jù)庫(kù)讀寫(xiě)分離,從而改善數(shù)據(jù)庫(kù)負(fù)載壓力,如同5所示。

應(yīng)用服務(wù)器在寫(xiě)數(shù)據(jù)的時(shí)候,訪問(wèn)主數(shù)據(jù)庫(kù),主數(shù)據(jù)庫(kù)通過(guò)主從復(fù)制機(jī)制將數(shù)據(jù)更新同步到從數(shù)據(jù)庫(kù),這樣當(dāng)應(yīng)用服務(wù)讀數(shù)據(jù)的時(shí)候,就可以通過(guò)從數(shù)據(jù)庫(kù)獲得數(shù)據(jù)。為了便于應(yīng)用程序訪問(wèn)讀寫(xiě)分離后的數(shù)據(jù)庫(kù),通常在應(yīng)用服務(wù)器端使用專門(mén)的數(shù)據(jù)訪問(wèn)模塊,是數(shù)據(jù)庫(kù)讀寫(xiě)分離對(duì)應(yīng)用透明。


6. 使用反向代理和CDN加速網(wǎng)站響應(yīng)

隨著網(wǎng)站業(yè)務(wù)不斷發(fā)展,用戶規(guī)模越來(lái)越大,由于中國(guó)復(fù)雜的網(wǎng)絡(luò)環(huán)境,不同地區(qū)的用戶訪問(wèn)網(wǎng)站時(shí),速度差別也極大。有研究表明,網(wǎng)站訪問(wèn)延遲和用戶流失率正相關(guān),網(wǎng)站訪問(wèn)越慢,用戶越容易失去耐心而離開(kāi)。未來(lái)提供更好的用戶體驗(yàn),留住用戶,網(wǎng)站需要加速網(wǎng)站訪問(wèn)速度。主要手段有使用CDN和反向代理,如圖6所示。
CDN和反向代理的基本原理都是緩存,區(qū)別在于CDN部署在網(wǎng)絡(luò)提供商的機(jī)房,使用戶在請(qǐng)求網(wǎng)站服務(wù)時(shí),可以從距離自己最近的網(wǎng)絡(luò)提供商機(jī)房獲取數(shù)據(jù);而反向代理則部署在網(wǎng)站的中心機(jī)房,當(dāng)用戶請(qǐng)求到達(dá)中心機(jī)房后,首先訪問(wèn)的服務(wù)器是反向代理服務(wù)器,如果反向代理服務(wù)器中緩存著用戶請(qǐng)求的資源,就將其直接返回給用戶。
使用CDN和反向代理的目的都是盡早返回?cái)?shù)據(jù)給用戶,一方面加快用戶訪問(wèn)速度,另一方面也減輕后端服務(wù)器的負(fù)載壓力。


7. 使用分布式文件系統(tǒng)和分布式數(shù)據(jù)庫(kù)系統(tǒng)

任何強(qiáng)大的單一服務(wù)器都滿足不了大型網(wǎng)站持續(xù)增長(zhǎng)的業(yè)務(wù)需求。數(shù)據(jù)庫(kù)經(jīng)過(guò)讀寫(xiě)分離后,從一臺(tái)服務(wù)器拆分成兩臺(tái)服務(wù)器,但是隨著網(wǎng)站業(yè)務(wù)的發(fā)展依然不能滿足需求,這是需要使用分布式數(shù)據(jù)庫(kù)。文件系統(tǒng)也一樣,需要使用分布式文件 系統(tǒng),如圖7所示。
分布式數(shù)據(jù)庫(kù)是網(wǎng)站數(shù)據(jù)庫(kù)拆分的最后手段,只有在單表數(shù)據(jù)規(guī)模非常龐大的時(shí)候才使用。不到不得已時(shí),網(wǎng)站更常用的數(shù)據(jù)庫(kù)拆分手段是業(yè)務(wù)分庫(kù),將不同的業(yè)務(wù)的數(shù)據(jù)庫(kù)部署在不同的物力服務(wù)器上。


8. 使用NoSQL和搜索引擎

隨著網(wǎng)站業(yè)務(wù)越來(lái)越復(fù)雜,對(duì)數(shù)據(jù)存儲(chǔ)和檢索的需求也越來(lái)越復(fù)雜,網(wǎng)站需要采用一些非關(guān)系數(shù)據(jù)庫(kù)技術(shù)如NoSQL和非數(shù)據(jù)庫(kù)查詢技術(shù)如搜索引擎,如圖8所示。
NoSQL和搜索引擎都是源自互聯(lián)網(wǎng)的技術(shù)手段,對(duì)可伸縮的分布式特性具有更好的支持。應(yīng)用服務(wù)器則通過(guò)一個(gè)統(tǒng)一數(shù)據(jù)訪問(wèn)模塊訪問(wèn)各種數(shù)據(jù),減輕應(yīng)用程序管理諸多數(shù)據(jù)源的麻煩。


9. 業(yè)務(wù)拆分

大型網(wǎng)站為了應(yīng)對(duì)日益復(fù)雜的業(yè)務(wù)場(chǎng)景,通過(guò)使用分而治之的手段將整個(gè)網(wǎng)站業(yè)務(wù)分成不同的產(chǎn)品線,如大型購(gòu)物交易網(wǎng)站就會(huì)將首頁(yè)、商鋪、訂單、買(mǎi)家、賣(mài)家等拆分成不同的產(chǎn)品線,分歸不同的業(yè)務(wù)團(tuán)隊(duì)負(fù)責(zé)。

具體到技術(shù)上,也會(huì)根據(jù)產(chǎn)品線劃分,將一個(gè)網(wǎng)站拆分成許多不同的應(yīng)用,每個(gè)應(yīng)用獨(dú)立部署維護(hù)。應(yīng)用之間可以通過(guò)超鏈接建立關(guān)系,也可以通過(guò)消息隊(duì)列進(jìn)行數(shù)據(jù)分發(fā),當(dāng)然最多的還是通過(guò)訪問(wèn)同一個(gè)數(shù)據(jù)存儲(chǔ)系統(tǒng)來(lái)構(gòu)成一個(gè)關(guān)聯(lián)的完整系統(tǒng),如圖9所示。


10. 分布式服務(wù)

隨著業(yè)務(wù)拆分越來(lái)越小,存儲(chǔ)系統(tǒng)越來(lái)越龐大,應(yīng)用系統(tǒng)的整體復(fù)雜度呈指數(shù)級(jí)增長(zhǎng),部署維護(hù)越來(lái)越困難。由于所有應(yīng)用要和所有數(shù)據(jù)庫(kù)系統(tǒng)連接,在數(shù)萬(wàn)臺(tái)服務(wù)器規(guī)模的網(wǎng)站中,這些連接的數(shù)目是服務(wù)器規(guī)模的平方,導(dǎo)致數(shù)據(jù)庫(kù)連接資源不足,拒絕服務(wù)。
既然每一個(gè)應(yīng)用系統(tǒng)都需要執(zhí)行許多相同的業(yè)務(wù)操作,比如用戶管理、商品管理等,那么可以將這些公用的業(yè)務(wù)提取出來(lái),獨(dú)立部署。由這些可復(fù)用的業(yè)務(wù)連接數(shù)據(jù)庫(kù),提供公共業(yè)務(wù)服務(wù),而應(yīng)用系統(tǒng)只需要管理用戶界面,通過(guò)分布式服務(wù)調(diào)用共用業(yè)務(wù)服務(wù)完成具體業(yè)務(wù)操作,如圖10所示。
大型網(wǎng)站的架構(gòu)演化到這里,基本上大多數(shù)的技術(shù)問(wèn)題都得以解決,諸如跨數(shù)據(jù)中心的實(shí)時(shí)數(shù)據(jù)同步和具體網(wǎng)站業(yè)務(wù)相關(guān)的問(wèn)題也都可以通過(guò)組合改進(jìn)現(xiàn)有的技術(shù)架構(gòu)來(lái)解決。


三、大型網(wǎng)站架構(gòu)的模式


最后,我們?cè)诹牧淖畛R?jiàn)的架構(gòu)模式,主要就是將系統(tǒng)在橫向維度上切分成幾個(gè)部分,每個(gè)部分單一職責(zé)。


1、分層

分層是應(yīng)用系統(tǒng)中最常見(jiàn)的一種架構(gòu)模式,在計(jì)算機(jī)世界中無(wú)處不在,可以更好的把龐大的軟件系統(tǒng)切分成不同的部分,便于分工合作和維護(hù)。

分層中的挑戰(zhàn)就是合理規(guī)劃層次的邊界和接口,嚴(yán)格遵守分層的約束,禁止跨層次的調(diào)用以及逆向調(diào)用。

2、分割

分割在縱向?qū)用鎸?duì)軟件進(jìn)行切分。比如網(wǎng)購(gòu)系統(tǒng),在應(yīng)用層,分割為交易、物流、優(yōu)惠、庫(kù)存等系統(tǒng)。

3、分布式

分割和分層便于切分后的模塊能夠便于分布式部署。分布式應(yīng)用和服務(wù)、分布式文件系統(tǒng)、分布式數(shù)據(jù)和存儲(chǔ)、分布式計(jì)算、分布式配置、分布式鎖。

4、集群

多臺(tái)服務(wù)器部署相同的應(yīng)用構(gòu)成一個(gè)集群,保證負(fù)載均衡的同時(shí)來(lái)提升系統(tǒng)的可用性,互相災(zāi)備。

5、緩存

CDN、反向代理、本地緩存、分布式緩存、數(shù)據(jù)庫(kù)緩存、瀏覽器緩存。

6、異步

異步架構(gòu)中最典型的就是生產(chǎn)者和消費(fèi)者模式,要解耦,就用異步,異步離不開(kāi)隊(duì)列,有效的利用異步,能夠消除并發(fā)訪問(wèn)的高峰。

7、冗余

在集群中機(jī)器數(shù)量達(dá)到一定數(shù)量的時(shí)候,部分機(jī)器宕機(jī)會(huì)是常態(tài),因此需要數(shù)據(jù)冗余備份,數(shù)據(jù)庫(kù)定期備份稱之為冷備份,主從分離實(shí)時(shí)同步稱之為熱備份。

8、自動(dòng)化

發(fā)布過(guò)程自動(dòng)化、代碼管理自動(dòng)化、自動(dòng)化測(cè)試、自動(dòng)化安全掃描、自動(dòng)化低級(jí)bug掃描、自動(dòng)化監(jiān)控、自動(dòng)化報(bào)警、自動(dòng)化失效轉(zhuǎn)移、自動(dòng)化降級(jí)。

9、安全

互聯(lián)網(wǎng)開(kāi)放的特性注定了在安全方面提升了很大的挑戰(zhàn)。

好的設(shè)計(jì)絕對(duì)不是模仿,不是生搬硬套一個(gè)特定的模式,而是對(duì)問(wèn)題深刻理解之上的創(chuàng)造和創(chuàng)新。

架構(gòu)師最大的價(jià)值不在于掌握了多少先進(jìn)的技術(shù),而在于將一個(gè)大系統(tǒng)切分為N個(gè)低耦合的子模塊的能力,這些子模塊包含橫向的業(yè)務(wù)模塊,也包含縱向的基礎(chǔ)技術(shù)模塊,這種能力一部分源自于專業(yè)的技術(shù)和經(jīng)驗(yàn),還有一部分源自架構(gòu)師對(duì)于業(yè)務(wù)場(chǎng)景的理解,對(duì)人性的把握,甚至對(duì)世界的認(rèn)知。



海外服務(wù)器免費(fèi)測(cè)試http://running-capacitor.com/


USA-IDC為您提供免備案服務(wù)器 0元試用
立即聯(lián)系在線客服,即可申請(qǐng)免費(fèi)產(chǎn)品試用服務(wù)
立即申請(qǐng)