如何在實(shí)驗(yàn)室進(jìn)行MRS大集群規(guī)模測試

隨著時(shí)代發(fā)展，數(shù)據(jù)變得更加開放、共享，客戶的業(yè)務(wù)也面臨著多元化處理，原有的集群亟待擴(kuò)容，另外，推到原有小規(guī)模集群的煙囪建設(shè)，打造一體化數(shù)據(jù)湖的訴求也越來越迫切。在這一背景下，原本上千規(guī)模的集群已經(jīng)遠(yuǎn)遠(yuǎn)無法滿足客戶的業(yè)務(wù)訴求，于是，迫切需要建設(shè)上萬規(guī)模的數(shù)據(jù)湖。

而上萬規(guī)模的數(shù)據(jù)湖如何在進(jìn)行實(shí)驗(yàn)室進(jìn)行功能、性能、可靠性等方面的測試，也成為我們研發(fā)團(tuán)隊(duì)需要考慮的問題。

通常情況下，我們的軟件是直接部署在物理設(shè)備上進(jìn)行測試的，3萬節(jié)點(diǎn)規(guī)模大集群就需要3萬臺(tái)物理設(shè)備，這顯然無法在實(shí)驗(yàn)室條件下得到滿足，需要借助虛擬化的技術(shù)。

結(jié)合我們大數(shù)據(jù)產(chǎn)品的特點(diǎn)，其節(jié)點(diǎn)類型分為管理節(jié)點(diǎn)、控制節(jié)點(diǎn)、數(shù)據(jù)節(jié)點(diǎn)；在實(shí)際的部署使用過程中，管理節(jié)點(diǎn)和控制節(jié)點(diǎn)，往往會(huì)成為大集群規(guī)模下的瓶頸問題，應(yīng)作為首先測試觀察項(xiàng)。那如何有效的利用有限的實(shí)驗(yàn)室資源，進(jìn)行有效的測試呢？ 我們?cè)?a target="_blank" href="http://m.bai1xia.com/news/tags-3215.html"style="font-weight:bold;">Docker容器與虛擬機(jī)中進(jìn)行對(duì)比發(fā)現(xiàn)，Docker容器采用共享OS的方式，占用資源比虛擬機(jī)少，而且隔離性也能滿足我們的訴求，因此，我們采用如下方式進(jìn)行實(shí)驗(yàn)環(huán)境搭建。

我們使用Docker Swarm進(jìn)行Docker容器管理。因?yàn)橄啾?a target="_blank" href="http://m.bai1xia.com/news/tags-443.html"style="font-weight:bold;">Kubernetes，Docker Swarm更輕量，方便快速安裝卸載，另外，可以通過級(jí)聯(lián)的方式搭建超大規(guī)模集群。

下面看看其組網(wǎng)：

在這種測試方案下，一臺(tái)64U256G的物理機(jī)，就可以虛擬出60個(gè)1U4G的數(shù)據(jù)節(jié)點(diǎn)，兩百臺(tái)機(jī)器就可以進(jìn)行上萬規(guī)模節(jié)點(diǎn)的測試。

在實(shí)施過程中，我們也踩了不少坑，比如：

如何解決小資源的Docker數(shù)據(jù)節(jié)點(diǎn)，快速部署安裝問題。

解決措施：直接跳過安裝過程，在Docker鏡像中內(nèi)置啟動(dòng)腳本，拉起鏡像過程中，直接啟動(dòng)數(shù)據(jù)節(jié)點(diǎn)。這樣就避免了管理節(jié)點(diǎn)下發(fā)軟件包，軟件包在小資源環(huán)境中的安裝部署緩慢的問題。

在上述場景中，如何確保大規(guī)模集群下的擴(kuò)容、縮容功能正常？

解決措施：實(shí)際測試擴(kuò)容、縮容時(shí)，采用物理節(jié)點(diǎn)進(jìn)行測試，避免小資源環(huán)境中擴(kuò)容、縮容緩慢的問題。

如何解決Docker數(shù)據(jù)節(jié)點(diǎn)的IP地址沖突的問題？

解決措施：利用Docker Swarm進(jìn)行組網(wǎng)設(shè)計(jì)，給每一臺(tái)物理節(jié)點(diǎn)劃分網(wǎng)絡(luò)范圍，使得不同節(jié)點(diǎn)上啟動(dòng)的Docker數(shù)據(jù)節(jié)點(diǎn)絕對(duì)不會(huì)重復(fù)。

避免在大二層組網(wǎng)下的廣播風(fēng)暴問題。

為了方便組網(wǎng)和測試，我們使用了Mac-VLan的組網(wǎng)方式，在這種方式下，存在廣播風(fēng)暴的問題，我們采用ARP靜態(tài)緩存規(guī)避了此問題。

如何解決Docker數(shù)據(jù)節(jié)點(diǎn)的共享目錄問題。

解決措施：Docker數(shù)據(jù)節(jié)點(diǎn)各自規(guī)劃不同目錄，在鏡像啟動(dòng)過程中，在磁盤上劃分以Docker名稱為變量的目錄，有效解決目錄沖突問題。

以上是我們?cè)诃h(huán)境搭建部署過程中遇到的一些問題，下期我們?cè)倏纯串a(chǎn)品軟件層面有哪些改進(jìn)項(xiàng)吧。

FusionInsight MapReduce服務(wù) 大數(shù)據(jù)

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實(shí)的內(nèi)容，請(qǐng)聯(lián)系我們jiasou666@gmail.com 處理，核實(shí)后本網(wǎng)站將在24小時(shí)內(nèi)刪除侵權(quán)內(nèi)容。

版權(quán)聲明：本文內(nèi)容由網(wǎng)絡(luò)用戶投稿，版權(quán)歸原作者所有，本站不擁有其著作權(quán)，亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實(shí)的內(nèi)容，請(qǐng)聯(lián)系我們jiasou666@gmail.com 處理，核實(shí)后本網(wǎng)站將在24小時(shí)內(nèi)刪除侵權(quán)內(nèi)容。