華為云FusionInsight MRS打造技術領先、越用越快、越用越省、越用越易、越用越穩的數據湖
10月30日,以“攜手共贏·數創未來”為主題的第二屆數據分析技術與應用高峰論壇在深圳舉行。會上,華為云大數據高級營銷經理王寧進行了主題演講 “華為云FusionInsight MRS跨越技術裂谷,助力客戶實現一企一湖,一城一湖”。
大數據技術創新焦點已轉向LakeHouse,企業創新焦點已轉向湖倉一體
“智能數據時代,隨著大數據技術的愈發成熟和5G、AI、IoT技術的規模商用,政企客戶需要商業訴求與技術創新的雙輪驅動,實現數字化轉型。企業構建技術領先的大數據平臺,選擇具有競爭力的數字底座至關重要。面向數字化轉型中的政企客戶,近年來,華為云大數據積極與世界同步,持續創新,致力于打造技術領先的數字底座,讓大數據越用越快、越用越易、越用越穩、越用越省!把復雜留給自己,把簡單留給伙伴,助力客戶數字化轉型成功!” 王寧分享到。
2011年以后隨著信息化的浪潮和大數據的成熟,企業開始利用大數據等技術構建數據湖,滿足多樣性數據的存儲,數據湖雖然適合存儲數據,但缺少一些支撐業務的關鍵能力:比如不支持實時增量更新,不支持事務,無法實時分析等。客戶為應對呈指數級增長的數據資產,采用大規模、高效率、一站式多場景的數據處理系統的需求越來越迫切。到2020年,大數據技術創新趨勢的焦點已轉向LakeHouse、企業創新焦點已轉向湖倉一體。數據湖向Data LakeHouse發展,基于數據湖實現與數倉類同的數據結構和數據管理能力;數據湖、數據倉庫向融合分析架構發展,Hadoop與MPPDB具備數據共享和跨庫分析能力,支持互聯互通、計算下推、協同計算,讓大數據與數倉互聯互通、協同計算,兼顧過去與未來!華為云大數據技術與世界同步,積極擁抱開源,汲取全球頂尖大數據實踐經驗,封閉使人落后,其他主流廠商在近年來主動擁抱開源。大數據開源、開放技術仍在蓬勃發展,以前,駕馭大數據“三駕馬車”可轉遍大數據的池塘,現如今,大數據技術已發展成一片海洋,社區已具有100+開源項目,大數據技術創新進入深水區。現在大數據不僅限于Hadoop生態,已是多種主流數據處理技術的集合,在不同場景有著豐富的組件進行支撐,在2020年Hive、Spark支持了事務和實時更新,補齊了數據湖的短板。
華為云打造技術領先的云原生數據湖,實現一企一湖,一城一湖
作為技術創新、市場份額雙領先的數據湖,華為云FusionInsight MRS具備3個硬核能力:
讓政企客戶在一個大、快、融、穩的架構下持續演進
大:傳統大數據單集群擴容受限,往往擴容到2000節點就難以突破,存在分割集群運維復雜、成本高、資源利用率不高、關鍵任務無法保障等問題。華為云FusionInsight MRS通過大集群突破擴展性瓶頸,支持最大2萬+節點大集群,還可集群聯邦無限擴容,讓政企客戶在一個架構上持續演進。
大規模特性已在華為內部實踐。華為云流程IT通過FusionInsight構建OneData大數據集群,其規模已至1萬+節點,支撐各部門運營分析、即席查詢等大數據分析,每日新增數據近100TB,10萬張表,即席查詢任務日均1萬+,批處理作業每日10萬+。華為流程IT OneData大集群歷經兩次滾動升級,業務0中斷,已穩定運行六年。華為云FusionInsight MRS最大單集群可支持2萬規模超大集群,讓客戶的業務系統穩如磐石,10年無憂!
快:華為云大數據打破性能瓶頸, 直面客戶業務構建主題數據,分析鏈路短,越用越快,無需等待!傳統大數據存在“慢、難、貴”的問題,數據鏈路長,事后報表為主;FusionInsight MRS通過Hudi實時增量更新同步數據,使流處理寫入ClickHouse完成毫秒級熱數據即時分析,讓大數據分析從此無需等待。
在金融某行,行內集群總計100+節點,總數據量1PB,每天更新10萬張表,通過FusionInsight MRS實現PB級數據實時同步,100+節點數據入庫時間從12小時降至1小時以內。
融:消除數據孤島,五大融合,跨源跨域跨引擎融合分析,讓數據分析越來越簡,消除數據孤島,無需冗余!傳統大數據分析面臨類型多、分布散、協同難等問題;FusionInsight MRS通過HetuEngine實現五大融合,統一SQL接口僅用簡單的SQL就可操作PB級數據,全民BI,讓大數據越用越簡單!
某行基于FusionInsight MRS構建金融大數據,通過HetuEngine統一SQL接口,解決數據分散,組件多、語言多等難題,降低技術開發門檻,跨源跨域跨引擎融合分析,數據免搬遷,降低整體TCO。
穩:數據的增長是無限的,小集群總會成長為大集群,一個技術領先、可平滑升級、可持續演進的底座非常重要。FusionInsight MRS可保障一企一湖連續性,在線滾動升級,業務永遠在線,無需拆集群、搬應用,徹底解決傳統大數據集群多、效率低、管理難、升級難等問題,讓升級過程中關鍵業務不中斷,確保業務連續性,穩如磐石。
某運營商使用FusionInsight MRS搭建了大數據平臺應對5G數據浪涌,先后兩次滾動升級實現了大數據平臺的平滑演進,實現業務無中斷,升級無感知,用戶體驗持續在線,單集群規模已擴展至1500+節點,支撐了各類政務、旅游、精準扶貧等200+大數據應用服務,覆蓋用戶1.3億+,讓客戶業務永不停、服務永在線、技術永最新!
實時數據湖
實時數據湖LakeHouse,基于Hudi支持數據實時批量入湖、實時增量同步,融合跑批數據進行T + 0實時分析,全量數據供應效率T+0;基于ClickHouse實現貼源數據實時多維分析,分析鏈路短,分析效率高,走向實時數據湖,讓數據價值近在眼前!
云原生數據湖
具有統一的元數據和存算分離等云原生特性。通過Data Lake Catalog數據湖目錄,為超大規模分析引擎提供統一元數據服務,讓數據全局可視可得;在數據存儲方面,通過OBS存算分離方案,實現存儲與計算資源的解耦分離,按需擴容,基于企業級EC實現最低1.2副本,總體TCO下降20%+,讓數據每bit成本更優!湖內提供交互式分析引擎,可無縫對接BI報表和自助分析,實現秒級用數,數據免搬遷;湖內統一SQL接口,降低技術開發門檻,簡化用數,實現技術領先的云原生數據湖。
一企一湖的云原生數據湖,已是政企客戶的標準底座,一站式支撐全場景高效分析
通過以上特點,華為云FusionInsight MRS新一代的數據湖,讓大數據越用越快、越用越易、越用越穩、越用越省!讓數據價值近在眼前!
華為云FusionInsight MRS堅定開放路線,堅持回饋社區,持續投入,與世界同行,技術永新
基于華為云大數據強大的創新能力,在業內成績斐然,持續多年獲得權威調研機構的認可。華為云引領大數據技術發展,理解客戶不斷發展的業務訴求,持續高強度投入10多年,擁有專利超過500余件,關鍵領域PMC、Committer占比50%。同時,華為云大數據堅持平臺+生態戰略,與合作伙伴一起服務全球政企客戶。華為云FusionInsight MRS堅定開放路線,與世界同行,持續投入,做好數字世界的黑土地。同時,我們堅持將好的經驗,持續在華為云大數據社區為大家開放,讓大江大洋也阻隔不了勇攀大數據技術高峰的決心。華為云FusionInsight MRS把“復雜”留給自己,把“簡單”留給伙伴,共建社區繁榮生態,聯合800+ISV,共創共贏,助力政企數字化轉型成功!
華為云FusionInsight聯合800+伙伴,共創共贏,加速政企數字化轉型
近期,IDC將公布中國大數據管理平臺廠商評估報告,華為云大數據憑借多年的行業深耕與技術引領,相信也將交出一份滿意的答卷。
華為云FusionInsight MRS已成為60+國家地區、3000+客戶數字化轉型的共同選擇,廣泛應用于政府、運營商、金融、能源、醫療、制造、交通、互聯網等多個行業,釋放海量數據價值,用數據驅動業務增長,助力政企客戶實現“一企一湖,一城一湖”!
大數據 EI企業智能 FusionInsight
版權聲明:本文內容由網絡用戶投稿,版權歸原作者所有,本站不擁有其著作權,亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容,請聯系我們jiasou666@gmail.com 處理,核實后本網站將在24小時內刪除侵權內容。