【云駐共創】GaussDB(for openGauss)華為消費者云優秀實踐

前言

華為終端云服務又稱為"華為消費者云"，是華為智能終端設備的“大腦”，為終端提供云服務支撐，提供圍繞數據、應用、出行、娛樂等全場景、高品質的數字生活體驗，帶領華為終端用戶探索更美好的數字生活。如何快速通過云化，讓數據庫根據數據量變化快速彈性擴容，成為消費者云提升業務能力的關鍵所在。而GaussDB(for openGauss)是基于華為主導的openGauss生態推出的企業級分布式關系型數據庫。該產品具備企業級復雜事務混合負載能力，同時支持分布式事務，同城跨AZ部署，數據0丟失，支持1000+的擴展能力，PB級海量存儲。同時擁有云上高可用，高可靠，高安全，彈性伸縮，一鍵部署，快速備份恢復，監控告警等關鍵能力，能為企業提供功能全面，穩定可靠，擴展性強，性能優越的企業級數據庫服務。

正文

一、華為消費者云業務上線情況總結

華為消費者云擁有6億用戶的華為終端云，數據量超大。對分布式線性擴展、性能、可靠可用能力要求極高。截止到目前為止，已經上線9個業務，90多個分布式集群，大約2000個節點，4萬多個CUP核心。其中，最大的單體服務業務是華為定位服務，230多個節點，3000億行數據。A類的華為云空間實時業務正在上線，目前已對接了9300萬終端用戶。

另外，我們非常熟知的華為賬號、華為應用超市、運動健康等后臺服務都部署在華為消費者云上。

二、GaussDB(for openGauss)上線華為消費者云技術方案

2.1 GaussDB(for openGauss)云服務組件介紹

GaussDB關鍵部件有三個，分別是GaussDB Console、GaussDB Service、RPC管控。其中，GaussDB Console 提供 RDS 服務自助申請和管理界面，用戶在 RDS Console 填寫服務申請單，包括虛擬機規格，所在網絡、存儲容量、數據庫密碼等參數，點擊提交生成訂單。GaussDB Service 作為 RDS 核心服務組件，實現自動化發放調度和自助管理能力。GaussDB服務管理面和實例面通過遠程調用實現數據庫的管控。

除此之外，GaussDB(for openGauss)云服務組件還依賴了一些第三的工具組件，比如 IAM（提供租戶和用戶認證服務）、ECS（創建RDS實例虛擬機）、EVS（創建RDS實例數據卷）、VPC（創建RDS實例的網絡）、OBS（存儲RDS實例備份數據）、CES（監控告警服務），在這些服務的共同作用下，GaussDB(for openGauss)云服務實現了完整的一站式數據庫服務。

關于數據庫集群訪問，可以通過三種方式，第一種是在相同安全組中通過內網連接GaussDB數據庫實例，這種方式最為常見。第二種是在不同安全組通過內網連接GaussDB數據庫實例，這種情況也比較常見。第三種是通過公網連接GaussDB數據庫實例，這種情況需要申請開發IP地址，這種情況比較少見，因為很少有數據實體和數據記錄部署在不同的云服務廠商的情況。

原則上，不同的VPC之間的數據默認是隔離的，在VPC內部還可以劃分不同的子網段，子網內的ECS服務器可以通過配置安全組進行訪問控制。

另外，數據庫的規格配置也劃分了不同的等級，CN、DN組件的規格包括從8核64G到60核480G不等的四檔配置，GTM、CMS組件在核數和內存增加的同時，也增加了分片數量。而且，所有組件都是用了超高IO的磁盤存儲，提高了數據讀取的響應速度。

2.2 GaussDB(for openGauss)拓撲組網

GaussDB(for openGauss)拓撲組網方式采取的是分布式集群3AZ3副本部署拓撲。首先，說一下集群數據庫組件都有哪些。CN作為協調節點，負責請求接入和路由分發，各CN節點對等分布。DN作為數據節點，負責本分片的數據存儲和處理，通過多個副本保證數據的可靠性。GTM作為全局事務管理節點，負責全局事務版本的分配，無分布式事務時，選用GTM-Free模式即可。ETCD，高可用KV存儲系統，用于持久化集群中所有的資源對象。CMS，集群管理服務端，負責管理集群狀態及對集群中的CN、DN、GTM實例剔除和仲裁。CMA，集群管理客戶端，負責監控其所在主機上的實例（CN、DN、GTM）狀態并上報給CMS，同時也執行CMS下發的仲裁指令。OM_Monitor，看護CMA的定時任務。

GaussDB集群高可用的原因有四點，具體原因如下：

1）3AZ容災，除了CMS和ETCD合設外，其他進程均獨立虛擬機部署。

2）CN各節點對等、多活。

3）DN每個分片1主2備，主副本支持讀寫，其它副本純備份；副本間通過qucrum協議保證一致性；同一分片副本間反親和性部署（不同物理機），不同分片的主副本無反親和性。

4）CMS\ETCD\GTM三副本部署。

2.3 GaussDB(for openGauss)備份恢復

GaussDB(for openGauss)備份恢復是數據庫操作的兜底方案，防止各種誤操作和數據丟失。整體原則采取的是周期性全量、增量備份策略。具體的設計指標和策略有也簡單介紹一下。

1）可靠性和可用性，EVS的可靠性可以做到9個9，可用性可以做到99.95%。OBS可靠性可以做到12個9，可用性可以做到99.995%。

2）RPO和RTO，RPO增量備份周期最小是15分鐘，這是一個經驗值，不同的業務場景可以動態調整。RTO是10小時，這樣可以保證對業務的影響低于20%。

3）OBS帶寬要求，單分片150MB/s的OBS帶寬是15G，可以支撐100分片集群部署。

4）集群規模和業務負載，100分片集群，3AZ 1主 2備，單分片數據量可以達到2T。讀寫比是3:1，單條記錄長度是1K，40%的資源負載，平均每日的數據變化率是2.8%，每周數據變化率是20%。

5）備份策略，1周一次全量備份，增量備份周期間隔最小15分鐘。

2.4 GaussDB(for openGauss)可靠性設計

這部分內容基于不同的服務，分別進行介紹。首先介紹CN故障管理。當CMA檢測到CN狀態異常時上報CMS，CMS判斷CN故障且25未恢復，則需要隔離該CN，下發命令給CMA執行對CN的剔除動作。如果正在通過故障CN執行的業務失敗，在檢測CN的隔離期，通過JDBC發往該CN的新連接會失敗。故障的處理方式有兩點，一是JDBC定期查詢可用的CN，并分配連接給這些可用的CN；二是CN修復后加入集群，并可以接受新的連接請求。

再來介紹DN故障管理，DN故障管理和CN故障管理類似，也是依托CMS服務的管理，通過CMA上報的故障檢測內容，最終由CMS執行相應的故障管理策略。故障檢測大致分為四種，一是傳統的心跳超時檢測，一般是6秒；二是進程down、磁盤故障、端口故障、網卡故障等問題；三是進程僵死，50秒沒有反應；四是反復重啟，10分鐘內重啟超過6次。這些情況都會被判定為DN故障。CMS作出如上判斷后，會執行故障管理策略，如果單個備份副本故障，不會影響業務；主副本故障，備副本提升為主副本接管業務；單分片任意2副本故障，該分片故障。如果存活的是主副本，則可讀不可寫。如果存活的是備副本，則該分片不可讀寫；如果3副本全部故障，該分片故障。

CMS故障管理，CMS作為服務的管理者也是有可能出現故障的。如果CMS主故障，通過ETCD仲裁選主，正常選主期間不影響集群提供讀寫業務，這個過程一般會花費10秒。如果CMS備故障，不會影響CMS服務，也不會影響數據庫集群提供讀寫服務。但是，如果CMS主副全部故障，集群節點的監控進程CMA無法正常連接CMS主，會有兩種可選的處理方式，一是CMA殺掉本節點上的實例，不再提供讀寫服務；而是CMA不對本節點實例進行干預，當前集群可提供讀寫服務。默認情況下是采取后者。

ETCD故障管理，通過上面的介紹，我們知道全局事務ID、Sequence會依賴ETCD存儲，同時CMS自身仲裁和CMS對其他數據庫組件的仲裁也會依賴ETCD。當ETCD發生故障時，如果是主TECD故障，會觸發重新選主邏輯。如果ETCD全故障或者故障半數以上，主CMS將為備，全局無主CMS，等價于CMS全故障。接下來講修復過程，如果是少數派故障，可自動修復；如果是多數派故障，就需要人工手動修復。

最后，講一下監控告警，GaussDB(for openGauss)的監控告警指標基本上涵蓋了所有的常見因素，包括VM（CPU、內存等）、性能數據（IO、QPS/TPS等）、連接（登入登出次數）、SQL（次數、時間、分布等）。集群運維告警也支持集群健康告警、HA告警、內核告警。

2.5 GaussDB(for openGauss)在線升級

GaussDB(for openGauss)在線升級方案采取了灰度升級和熱補丁方式，其中，灰度升級是節點級滾動升級，基本上適用于所有的集群數據庫組件包括CN、DN、GTM、CMS等。另外就是熱補丁方式，原理的話是指令級跳轉，業務零中斷。在函數的入口處加入跳轉指令，當函數備調用時，跳轉到補丁區，執行補丁函數。

2.6 GaussDB(for openGauss)第三方運維監控

GaussDB(for openGauss)支持第三方運維監控的對接，因為實際業務場景中，很多大公司都有自己的監控平臺，因此，他們更多的是希望將監控數據同步到自己的監控系統中，而不是使用一套新的監控平臺。這一點GaussDB(for openGauss)也是支持的，數據庫引擎上報指標到CES，配置CES的轉儲功能，指標數據轉儲到DMS，然后業務方訂閱消費DMS就完成了監控數據的對接。

結尾

本文整理自數據庫GaussDB系列技術直播 — GaussDB(for openGauss)華為消費者云優秀實踐，主要介紹了 GaussDB(for openGauss) 作為云數據庫服務結合華為消費者云的產品形態和功能特性。相信大家通過本文的介紹對 GaussDB(for openGauss) 也有了非常深刻的認識和了解。

活動鏈接：https://bbs.huaweicloud.com/blogs/293957

數據倉庫服務 GaussDB(DWS)

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。

版權聲明：本文內容由網絡用戶投稿，版權歸原作者所有，本站不擁有其著作權，亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容，請聯系我們jiasou666@gmail.com 處理，核實后本網站將在24小時內刪除侵權內容。