HDFS官網翻譯——HDFS 架構指南(四)

      網友投稿 805 2022-05-28

      文件系統元數據的持久性

      HDFS官網翻譯——HDFS 架構指南(四)

      HDFS命名空間存儲在NameNode結點中。NameNode使用Editlog記錄文件系統元數據的每一次變更。Editlog是一個事務型日志。例如,HDFS創建新文件時會在Editlog文件中插入一條記錄。類似地,文件副本數的變更也會引起在Editlog文件中記錄一條日志。NameNode結點使用本地文件系統存儲Editlog文件。FsImage文件中存儲了文件系統命令空間,包含文件與文件系統屬性的map塊。FsImage作為NameNode結點本地的一個文件被存儲。

      NameNode將文件系統命名空間的鏡像、文件塊map存儲在內存中。這個關鍵的元數據項被設計得非常緊湊,例如一個擁有4GB RAM的NameNode足以支持大量的文件和目錄。當NameNode結點啟動的時候,它從磁盤中讀取FSImage和Editlog文件,將Editlog中的事件讀取后執行,然后刷新FSImage到磁盤(其實就是先獲取FsImage中NameNode的狀態,然后逐一讀取EditLog中文件事件記錄一一執行,之后將最新的NameNode狀態刷回到FSImage文件中)。之后將EditLog文件丟棄,因為該文件中記錄的事件已經全部被使用了(記錄在持久化文件FSImage中了)。上述過程就叫做CheckPoint。在當前的版本中,只有NameNode啟動時才會出現一個checkpoint。將來的功能會支持間隔性的checkpoint。

      DataNode結點將HDFS數據存儲在本地文件系統中。DataNode不感知HDFS文件,而是將特定文件分割為多塊HDFS數據塊存入本地文件系統。DataNode文件不能存放在同一個目錄,它使用啟發式方法(筆者也不清楚具體是什么)來確定每個目錄的最佳文件數量,并適當地創建子目錄。在同一個目錄中創建所有本地文件不是最佳選擇,因為本地文件系統可能無法有效地支持單個目錄中的大量文件。當DataNode啟動時,它掃描本地文件系統,生成與每個本地文件對應的所有HDFS數據塊的列表,并將這個報告發送給NameNode——Blockreport。

      Hadoop 機器翻譯

      版權聲明:本文內容由網絡用戶投稿,版權歸原作者所有,本站不擁有其著作權,亦不承擔相應法律責任。如果您發現本站中有涉嫌抄襲或描述失實的內容,請聯系我們jiasou666@gmail.com 處理,核實后本網站將在24小時內刪除侵權內容。

      上一篇:分布式RPC框架Dubbo實現服務治理實現示例:集成Kryo實現高速序列化,集成Hystrix實現熔斷器
      下一篇:華為云跨云遷移工具案例實踐:騰訊云遷移到華為云
      相關文章
      亚洲爆乳大丰满无码专区| 日韩va亚洲va欧洲va国产| 亚洲综合色自拍一区| 亚洲AV无码专区国产乱码不卡| 亚洲一级毛片中文字幕| 亚洲第一成年网站大全亚洲| 亚洲成色www久久网站夜月| 亚洲乱亚洲乱妇无码麻豆| 亚洲人成无码网站久久99热国产| 国产精品亚洲一区二区三区 | 久久久久亚洲AV成人无码 | 亚洲自偷自偷在线成人网站传媒| 亚洲一区二区三区国产精品无码| 噜噜噜亚洲色成人网站∨| 亚洲精品偷拍无码不卡av| 亚洲日本在线播放| 亚洲精品福利你懂| 7777久久亚洲中文字幕| 亚洲一区二区三区国产精华液| 亚洲一卡2卡3卡4卡5卡6卡| 亚洲Av无码国产一区二区| heyzo亚洲精品日韩| 区三区激情福利综合中文字幕在线一区亚洲视频1| 亚洲国产精品一区二区第一页免 | 深夜国产福利99亚洲视频| 亚洲AⅤ优女AV综合久久久| 亚洲?V无码乱码国产精品| 亚洲片国产一区一级在线观看| 亚洲无人区午夜福利码高清完整版| 亚洲精品午夜国产VA久久成人| 亚洲国产精品成人精品无码区| 久久久久久a亚洲欧洲AV| 亚洲色图黄色小说| 亚洲无吗在线视频| 国产精品亚洲专区无码WEB| 亚洲精品久久久www| 亚洲国产精品无码久久久秋霞2 | 亚洲午夜精品一区二区| 亚洲性一级理论片在线观看| 涩涩色中文综合亚洲| 精品国产亚洲一区二区三区在线观看|