Java網(wǎng)絡(luò) 1.4 HTML 骨架和基本語法簡(jiǎn)介
617
2022-05-28
一條SQL更新語句的執(zhí)行過程
1、redo log(重做日志)
舉一個(gè)小栗子:
2、binlog(歸檔日志)
3、兩階段提交
4、兩個(gè)參數(shù)
mysql> update T set c=c+1 where ID=2;
1
執(zhí)行語句前要先連接數(shù)據(jù)庫(kù),這是連接器的工作。
接下來,分析器會(huì)通過詞法和語法解析知道這是一條更新語句。優(yōu)化器決定要使用 ID 這個(gè)索引。然后,執(zhí)行器負(fù)責(zé)具體執(zhí)行,找到這一行,然后更新。
與查詢流程不一樣的是,更新流程還涉及兩個(gè)重要的日志模塊:
redo log
(重做日志)和
binlog
(歸檔日志)。
1、redo log(重做日志)
舉一個(gè)小栗子:
不知道你看過《孔乙己》這篇文章,酒店掌柜有一個(gè)粉板,專門用來記錄客人的賒賬記錄。如果賒賬的人不多,那么他可以把顧客名和賬目寫在板上。但如果賒賬的人多了,粉板總會(huì)有記不下的時(shí)候,這個(gè)時(shí)候掌柜一定還有一個(gè)專門記錄賒賬的賬本。
如果有人要賒賬或者還賬的話,掌柜一般有兩種做法:
一種做法是直接把賬本翻出來,把這次賒的賬加上去或者扣除掉;
另一種做法是先在粉板上記下這次的賬,等打烊以后再把賬本翻出來核算。
在生意紅火柜臺(tái)很忙時(shí),掌柜一定會(huì)選擇后者,因?yàn)榍罢卟僮鲗?shí)在是太麻煩了。首先,你得找到這個(gè)人的賒賬總額那條記錄。你想想,密密麻麻幾十頁(yè),掌柜要找到那個(gè)名字,可能還得帶上老花鏡慢慢找,找到之后再拿出算盤計(jì)算,最后再將結(jié)果寫回到賬本上。這整個(gè)過程想想都麻煩。相比之下,還是先在粉板上記一下方便。你想想,如果掌柜沒有粉板的幫助,每次記賬都得翻賬本,效率是不是低得讓人難以忍受?
同樣,在 MySQL 里也有這個(gè)問題,如果每一次的更新操作都需要寫進(jìn)磁盤,然后磁盤也要找到對(duì)應(yīng)的那條記錄,然后再更新,整個(gè)過程 IO 成本、查找成本都很高。為了解決這個(gè)問題,MySQL 的設(shè)計(jì)者就用了類似酒店掌柜粉板的思路來提升更新效率。而粉板和賬本配合的整個(gè)過程,其實(shí)就是 MySQL 里經(jīng)常說到的 WAL 技術(shù),WAL 的全稱是 Write-Ahead Logging,它的關(guān)鍵點(diǎn)就是
先寫日志,再寫磁盤
。
具體來說,
當(dāng)有一條記錄需要更新的時(shí)候,InnoDB 引擎就會(huì)先把記錄寫到 redo log(粉板)里面,并更新內(nèi)存,這個(gè)時(shí)候更新就算完成了
。同時(shí),
InnoDB 引擎會(huì)在適當(dāng)?shù)臅r(shí)候,將這個(gè)操作記錄更新到磁盤里面,而這個(gè)更新往往是在系統(tǒng)比較空閑的時(shí)候做
,這就像打烊以后掌柜做的事。
如果今天賒賬的不多,掌柜可以等打烊后再整理。但如果某天賒賬的特別多,粉板寫滿了,又怎么辦呢?這個(gè)時(shí)候掌柜只好放下手中的活兒,把粉板中的一部分賒賬記錄更新到賬本中,然后把這些記錄從粉板上擦掉,為記新賬騰出空間。
與此類似,InnoDB 的 redo log 是固定大小的,比如可以配置為一組 4 個(gè)文件,每個(gè)文件的大小是 1GB,那么這塊“粉板”總共就可以記錄 4GB 的操作。從頭開始寫,寫到末尾就又回到開頭循環(huán)寫,如下面這個(gè)圖所示。
write pos 是當(dāng)前記錄的位置,一邊寫一邊后移,寫到第 3 號(hào)文件末尾后就回到 0 號(hào)文件開頭。checkpoint 是當(dāng)前要擦除的位置,也是往后推移并且循環(huán)的,擦除記錄前要把記錄更新到數(shù)據(jù)文件。
write pos 和 checkpoint
之間的是“粉板”上還空著的部分
,可以用來記錄新的操作。如果
write pos 追上 checkpoint,表示“粉板”滿了
,這時(shí)候不能再執(zhí)行新的更新,得停下來先擦掉一些記錄,把 checkpoint 推進(jìn)一下。
有了 redo log,
InnoDB 就可以保證即使數(shù)據(jù)庫(kù)發(fā)生異常重啟,之前提交的記錄都不會(huì)丟失
,這個(gè)能力稱為crash-safe。
要理解 crash-safe 這個(gè)概念,可以想想我們前面賒賬記錄的例子。只要賒賬記錄記在了粉板上或?qū)懺诹速~本上,之后即使掌柜忘記了,比如突然停業(yè)幾天,恢復(fù)生意后依然可以通過賬本和粉板上的數(shù)據(jù)明確賒賬賬目。
2、binlog(歸檔日志)
前面我們講過,MySQL 整體來看,其實(shí)就有兩塊:一塊是 Server 層,它主要做的是 MySQL 功能層面的事情;還有一塊是引擎層,負(fù)責(zé)存儲(chǔ)相關(guān)的具體事宜。上面我們聊到的粉板
redo log 是 InnoDB 引擎特有的日志
,而
Server 層也有自己的日志,稱為 binlog(歸檔日志)
。
為什么會(huì)有兩份日志呢?
因?yàn)樽铋_始 MySQL 里并沒有 InnoDB引擎。MySQL 自帶的引擎是 MyISAM,但是 MyISAM 沒有 crash-safe 的能力,binlog 日志只能用于歸檔。而 InnoDB 是另一個(gè)公司以插件形式引入 MySQL 的,既然只依靠 binlog 是沒有 crash-safe 能力的,所以 InnoDB 使用另外一套日志系統(tǒng)——也就是 redo log 來實(shí)現(xiàn) crash-safe 能力。
這兩種日志有以下三點(diǎn)不同:
redo log 是 InnoDB 引擎特有的;binlog 是 MySQL 的 Server 層實(shí)現(xiàn)的,所有引擎都可以使用。
redo log 是物理日志,記錄的是“在某個(gè)數(shù)據(jù)頁(yè)上做了什么修改”;binlog 是邏輯日志,記錄的是這個(gè)語句的原始邏輯,比如“給
ID=2 這一行的 c 字段加 1 ”。
redo log 是循環(huán)寫的,空間固定會(huì)用完;binlog 是可以追加寫入的。“追加寫”是指 binlog
文件寫到一定大小后會(huì)切換到下一個(gè),并不會(huì)覆蓋以前的日志。
有了對(duì)這兩個(gè)日志的概念性理解,我們?cè)賮砜磮?zhí)行器和 InnoDB 引擎在執(zhí)行這個(gè)簡(jiǎn)單的 update 語句時(shí)的內(nèi)部流程。
執(zhí)行器先找引擎取 ID=2 這一行。ID 是主鍵,引擎直接用樹搜索找到這一行。如果 ID=2
這一行所在的數(shù)據(jù)頁(yè)本來就在內(nèi)存中,就直接返回給執(zhí)行器;否則,需要先從磁盤讀入內(nèi)存,然后再返回。
執(zhí)行器拿到引擎給的行數(shù)據(jù),把這個(gè)值加上 1,比如原來是 N,現(xiàn)在就是 N+1,得到新的一行數(shù)據(jù),再調(diào)用引擎接口寫入這行新數(shù)據(jù)。
引擎將這行新數(shù)據(jù)更新到內(nèi)存中,同時(shí)將這個(gè)更新操作記錄到 redo log 里面,此時(shí) redo log 處于 prepare
狀態(tài)。然后告知執(zhí)行器執(zhí)行完成了,隨時(shí)可以提交事務(wù)。
執(zhí)行器生成這個(gè)操作的 binlog,并把 binlog 寫入磁盤。
執(zhí)行器調(diào)用引擎的提交事務(wù)接口,引擎把剛剛寫入的 redo log 改成提交(commit)狀態(tài),更新完成。
這里我給出這個(gè) update 語句的執(zhí)行流程圖,圖中淺色框表示是在 InnoDB 內(nèi)部執(zhí)行的,深色框表示是在執(zhí)行器中執(zhí)行的。
你可能注意到了,最后三步看上去有點(diǎn)“繞”,將 redo log 的寫入拆成了兩個(gè)步驟:prepare 和 commit,這就是"
兩階段提交
"。
3、兩階段提交
為什么必須有“兩階段提交”呢?這是為了讓兩份日志之間的邏輯一致。要說明這個(gè)問題,我們思考一個(gè)問題:怎樣讓數(shù)據(jù)庫(kù)恢復(fù)到半個(gè)月內(nèi)任意一秒的狀態(tài)?
前面我們說過了,binlog 會(huì)記錄所有的邏輯操作,并且是采用“追加寫”的形式。如果你的 DBA 承諾說半個(gè)月內(nèi)可以恢復(fù),那么備份系統(tǒng)中一定會(huì)保存最近半個(gè)月的所有 binlog,同時(shí)系統(tǒng)會(huì)定期做整庫(kù)備份。這里的“定期”取決于系統(tǒng)的重要性,可以是一天一備,也可以是一周一備。
當(dāng)需要恢復(fù)到指定的某一秒時(shí),比如某天下午兩點(diǎn)發(fā)現(xiàn)中午十二點(diǎn)有一次誤刪表,需要找回?cái)?shù)據(jù),那你可以這么做:
首先,找到最近的一次全量備份,如果你運(yùn)氣好,可能就是昨天晚上的一個(gè)備份,從這個(gè)備份恢復(fù)到臨時(shí)庫(kù);
然后,從備份的時(shí)間點(diǎn)開始,將備份的 binlog 依次取出來,重放到中午誤刪表之前的那個(gè)時(shí)刻。
這樣你的臨時(shí)庫(kù)就跟誤刪之前的線上庫(kù)一樣了,然后你可以把表數(shù)據(jù)從臨時(shí)庫(kù)取出來,按需要恢復(fù)到線上庫(kù)去。
那為什么日志需要“兩階段提交”。
由于 redo log 和 binlog 是兩個(gè)獨(dú)立的邏輯,如果不用兩階段提交,要么就是先寫完 redo log 再寫 binlog,或者采用反過來的順序。
仍然用前面的 update 語句來做例子。假設(shè)當(dāng)前 ID=2 的行,字段 c 的值是 0,再假設(shè)執(zhí)行 update 語句過程中在寫完第一個(gè)日志后,第二個(gè)日志還沒有寫完期間發(fā)生了 crash,會(huì)出現(xiàn)什么情況呢?
先寫 redo log 后寫 binlog。
假設(shè)在 redo log 寫完,binlog 還沒有寫完的時(shí)候,MySQL 進(jìn)程異常重啟。由于我們前面說過的,redo log 寫完之后,系統(tǒng)即使崩潰,仍然能夠把數(shù)據(jù)恢復(fù)回來,所以恢復(fù)后這一行 c 的值是 1。
但是由于 binlog 沒寫完就 crash 了,這時(shí)候 binlog 里面就沒有記錄這個(gè)語句。因此,之后備份日志的時(shí)候,存起來的 binlog 里面就沒有這條語句。然后你會(huì)發(fā)現(xiàn),如果需要用這個(gè) binlog 來恢復(fù)臨時(shí)庫(kù)的話,由于這個(gè)語句的 binlog 丟失,這個(gè)臨時(shí)庫(kù)就會(huì)少了這一次更新,恢復(fù)出來的這一行 c 的值就是 0,與原庫(kù)的值不同。
先寫 binlog 后寫 redo log。
如果在 binlog 寫完之后 crash,由于 redo log 還沒寫,崩潰恢復(fù)以后這個(gè)事務(wù)無效,所以這一行 c 的值是 0。但是 binlog 里面已經(jīng)記錄了“把 c 從 0 改成 1”這個(gè)日志。所以,在之后用 binlog 來恢復(fù)的時(shí)候就多了一個(gè)事務(wù)出來,恢復(fù)出來的這一行 c 的值就是 1,與原庫(kù)的值不同。
可以看到,如果不使用“兩階段提交”,那么數(shù)據(jù)庫(kù)的狀態(tài)就有可能和用它的日志恢復(fù)出來的庫(kù)的狀態(tài)不一致。
不只是誤操作后需要用這個(gè)過程來恢復(fù)數(shù)據(jù),當(dāng)你需要擴(kuò)容的時(shí)候,也就是需要再多搭建一些備庫(kù)來增加系統(tǒng)的讀能力的時(shí)候,現(xiàn)在常見的做法也是用全量備份加上應(yīng)用 binlog 來實(shí)現(xiàn)的,這個(gè)“不一致”就會(huì)導(dǎo)致你的線上出現(xiàn)主從數(shù)據(jù)庫(kù)不一致的情況。
簡(jiǎn)單說,redo log 和 binlog 都可以用于表示事務(wù)的提交狀態(tài),而
兩階段提交就是讓這兩個(gè)狀態(tài)保持邏輯上的一致
。
4、兩個(gè)參數(shù)
innodb_flush_log_at_trx_commit 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候,表示每次事務(wù)的 redo log
都直接持久化到磁盤。這個(gè)參數(shù)我建議你設(shè)置成 1,這樣可以保證 MySQL 異常重啟之后數(shù)據(jù)不丟失。
sync_binlog 這個(gè)參數(shù)設(shè)置成 1 的時(shí)候,表示每次事務(wù)的 binlog 都持久化到磁盤。這個(gè)參數(shù)我也建議你設(shè)置成
1,這樣可以保證 MySQL 異常重啟之后 binlog 不丟失。
MySQL SQL
版權(quán)聲明:本文內(nèi)容由網(wǎng)絡(luò)用戶投稿,版權(quán)歸原作者所有,本站不擁有其著作權(quán),亦不承擔(dān)相應(yīng)法律責(zé)任。如果您發(fā)現(xiàn)本站中有涉嫌抄襲或描述失實(shí)的內(nèi)容,請(qǐng)聯(lián)系我們jiasou666@gmail.com 處理,核實(shí)后本網(wǎng)站將在24小時(shí)內(nèi)刪除侵權(quán)內(nèi)容。