淺析RDB和AOF持久化,優(yōu)缺點是什么?怎么選?

本篇文章帶大家聊聊redis中rdb 和 aof 持久化的原理,它們的優(yōu)缺點是什么?分析一下應(yīng)該用哪一個?希望對大家有所幫助!

淺析RDB和AOF持久化,優(yōu)缺點是什么?怎么選?

redis 提供了 RDB 和 AOF 兩種持久化方案:

  • RDB:生成指定時間間隔內(nèi)的 Redis 內(nèi)存中數(shù)據(jù)快照,是一個二進(jìn)制文件 dumpr.rdb

  • AOF:記錄 Redis 除了查詢以外的所有寫命令,并在Redis 服務(wù)啟動時,通過重新執(zhí)行這些命令來還原數(shù)據(jù)。

RDB 持久化

默認(rèn) Redis 會以 RDB 快照的形式將一段時間內(nèi)的數(shù)據(jù)持久化到硬盤,保存成一個 dumpr.rdb 二進(jìn)制 文件。【相關(guān)推薦:redis

工作原理簡單介紹一下

當(dāng) Redis 需要做持久化時,Redis 會 fork 一個子進(jìn)程,子進(jìn)程將數(shù)據(jù)寫到磁盤上一個臨時 RDB 文件中。當(dāng)子進(jìn)程完成寫臨時文件后,將原來的 RDB 替換掉,這樣的好處就是可以 copy-on-write。

當(dāng)然我們也可以手動執(zhí)行 save 或者 bgsave(異步)生成 RDB 文件。

redis.conf 默認(rèn)配置

save?900??1 save?300??10 save?60??10000
  • 900秒之內(nèi),如果超過1個key被修改,則發(fā)起快照保存;
  • 300秒之內(nèi),如果超過10個key被修改,則發(fā)起快照保存;
  • 60秒之內(nèi),如果1萬個key被修改,則發(fā)起快照保存;

RDB 快照命令

在默認(rèn)情況下, Redis 將數(shù)據(jù)庫快照保存在名字為 dump.rdb 的二進(jìn)制文件中。

你可以對 Redis 進(jìn)行設(shè)置, 讓它在“ N 秒內(nèi)數(shù)據(jù)集至少有 M 個改動”這一條件被滿足時, 自動保存一次數(shù)據(jù)集。

你也可以通過調(diào)用 SAVE 或者 BGSAVE , 手動讓 Redis 進(jìn)行數(shù)據(jù)集保存操作。

比如說, 以下設(shè)置會讓 Redis 在滿足“ 60 秒內(nèi)有至少有 1000 個鍵被改動”這一條件時, 自動保存一次數(shù)據(jù)集:

save?60?1000

這種持久化方式被稱為快照(snapshot)。

RDB ?創(chuàng)建原理

當(dāng) Redis 需要保存 dump.rdb 文件時, 服務(wù)器執(zhí)行以下操作:

  • Redis 調(diào)用 fork() ,同時擁有父進(jìn)程和子進(jìn)程。
  • 子進(jìn)程將數(shù)據(jù)集寫入到一個臨時 RDB 文件中。
  • 當(dāng)子進(jìn)程完成對新 RDB 文件的寫入時,Redis 用新 RDB 文件替換原來的 RDB 文件,并刪除舊的 RDB 文件。

這種工作方式使得 Redis 可以從寫時復(fù)制(copy-on-write)機制中獲益。

RDB 的優(yōu)點

RDB 是一個比較緊湊的文件,它保存了 Redis 在某個時間點的數(shù)據(jù),這種數(shù)據(jù)比較適合做備份和用于災(zāi)難恢復(fù)。

比如說,你可以在最近的 24 小時內(nèi),每小時備份一次 RDB 文件,并且在每個月的每一天,也備份一個 RDB 文件。 這樣的話,即使遇上問題,也可以隨時將數(shù)據(jù)集還原到不同的版本。

RDB 的缺點

如果你需要盡量避免在服務(wù)器故障時丟失數(shù)據(jù),那么 RDB 不適合你。 雖然 Redis 允許你設(shè)置不同的保存點來控制保存 RDB 文件的頻率, 但是, 因為 RDB 文件需要保存整個數(shù)據(jù)集的狀態(tài), 所以它并不是一個輕松的操作。 因此你可能會至少 5 分鐘才保存一次 RDB 文件。 在這種情況下, 一旦發(fā)生故障停機, 你就可能會丟失好幾分鐘的數(shù)據(jù)。

AOF 持久化

使用 AOF 做持久化,每一個寫命令都通過 write 函數(shù)追加到 appendonly.aof 文件中。

AOF 就可以做到全程持久化,只需要在配置文件中開啟(默認(rèn)是 no ),appendfsync yes 開啟 AOF 之后,Redis 每執(zhí)行一個修改數(shù)據(jù)的命令,都會把它添加到 AOF 文件中,當(dāng) Redis 重啟時,將會讀取 AOF 文件進(jìn)行“重放”以恢復(fù)到 Redis 關(guān)閉前的最后時刻。

AOF 的配置

你可以配置 Redis 多久才將數(shù)據(jù) fsync 到磁盤一次。

redis.conf 默認(rèn)配置

appendfsync?yes appendfsync?always?????#每次有數(shù)據(jù)修改發(fā)生時都會寫入AOF文件。 appendfsync?everysec???#每秒鐘同步一次,該策略為AOF的缺省策略。

有三個選項:

1,每次有新命令追加到 AOF 文件時就執(zhí)行一次 fsync :非常慢,也非常安全。
2,每秒 fsync 一次:足夠快(和使用 RDB 持久化差不多),并且在故障時只會丟失 1 秒鐘的數(shù)據(jù)。
3,從不 fsync :將數(shù)據(jù)交給操作系統(tǒng)來處理。更快,也更不安全的選擇。

推薦(并且也是默認(rèn))的措施為每秒 fsync 一次, 這種 fsync 策略可以兼顧速度和安全性。

AOF 創(chuàng)建原理

AOF 重寫和 RDB 創(chuàng)建快照一樣,都巧妙地利用了寫時復(fù)制機制。

以下是 AOF 重寫的執(zhí)行步驟

Redis 執(zhí)行 fork() ,現(xiàn)在同時擁有父進(jìn)程和子進(jìn)程。

子進(jìn)程開始將新 AOF 文件的內(nèi)容寫入到臨時文件。

對于所有新執(zhí)行的寫入命令,父進(jìn)程一邊將它們累積到一個內(nèi)存緩存中,一邊將這些改動追加到現(xiàn)有 AOF 文件的末尾: 這樣即使在重寫的中途發(fā)生停機,現(xiàn)有的 AOF 文件也還是安全的。

當(dāng)子進(jìn)程完成重寫工作時,它給父進(jìn)程發(fā)送一個信號,父進(jìn)程在接收到信號之后,將內(nèi)存緩存中的所有數(shù)據(jù)追加到新 AOF 文件的末尾。

搞定!現(xiàn)在 Redis 原子地用新文件替換舊文件,之后所有命令都會直接追加到新 AOF 文件的末尾。

AOF 的優(yōu)點

1,使用 AOF 做持久化,可以設(shè)置不同的 fsync 策略,比如無 fsync ,每秒鐘一次 fsync ,或者每次執(zhí)行寫入命令時 fsync 。

AOF 的默認(rèn)策略為每秒鐘 fsync 一次,在這種配置下,Redis 仍然可以保持良好的性能,并且就算發(fā)生故障停機,也最多只會丟失一秒鐘的數(shù)據(jù)。

fsync 會在后臺線程執(zhí)行,所以主線程可以繼續(xù)努力地處理命令請求。

2,AOF 文件是一個只進(jìn)行追加操作的日志文件,不是生成新的之后替換掉那種,即使日志因為某些原因而包含了未寫入完整的命令(比如寫入時磁盤已滿,寫入中途停機,等等), redis-check-aof 工具也可以輕易地修復(fù)這種問題。

3,Redis 可以在 AOF 文件體積變得過大時,自動地在后臺對 AOF 進(jìn)行重寫: 重寫后的新 AOF 文件包含了恢復(fù)當(dāng)前數(shù)據(jù)集所需的最小命令集合。

整個重寫操作是絕對安全的,因為 Redis 重寫是創(chuàng)建新 AOF 文件,重寫的過程中會繼續(xù)將命令追加到現(xiàn)有舊的 AOF 文件里面,即使重寫過程中發(fā)生停機,現(xiàn)有舊的 AOF 文件也不會丟失。 而一旦新 AOF 文件創(chuàng)建完畢,Redis 就會從舊 AOF 文件切換到新 AOF 文件,并開始對新 AOF 文件進(jìn)行追加操作。

4,AOF 文件有序地保存了對數(shù)據(jù)庫執(zhí)行的所有寫入操作, 這些寫入操作以 Redis 協(xié)議的格式保存, 因此 AOF 文件的內(nèi)容非常容易被人讀懂, 對文件進(jìn)行分析(parse)也很輕松。 導(dǎo)出(export) AOF 文件也非常簡單: 舉個例子, 如果你不小心執(zhí)行了 _FLUSH ALL_(清空整個 Redis 服務(wù)器的數(shù)據(jù)(刪除所有數(shù)據(jù)庫的所有 key )。) 命令, 但只要 AOF 文件未被重寫, 那么只要停止服務(wù)器, 移除 AOF 文件末尾的 FLUSHALL 命令, 并重啟 Redis , 就可以將數(shù)據(jù)集恢復(fù)到 FLUSHALL 執(zhí)行之前的狀態(tài)。

AOF 的缺點

對于相同的數(shù)據(jù)集來說,AOF 文件的體積通常要大于 RDB 文件的體積。

根據(jù)所使用的 fsync 策略,AOF 的速度可能會慢于 RDB。 在一般情況下, 每秒 fsync 的性能依然非常高, 而關(guān)閉 fsync 可以讓 AOF 的速度和 RDB 一樣快, 即使在高負(fù)荷之下也是如此。

不過在處理巨大的寫入載入時,RDB 可以提供更有保證的最大延遲時間(latency)。

RDB 和 AOF 二者的區(qū)別

RDB持久化是指在指定的時間間隔內(nèi)將內(nèi)存中的數(shù)據(jù)集快照寫入磁盤,實際操作過程是fork一個子進(jìn)程,先將數(shù)據(jù)集寫入臨時文件,寫入成功后,再替換之前的文件,用二進(jìn)制壓縮存儲。

AOF持久化以日志的形式記錄服務(wù)器所處理的每一個寫、刪除操作,查詢操作不會記錄,以文本的方式追加記錄,可以打開文件看到詳細(xì)的操作記錄。

RDB 和 AOF 我應(yīng)該用哪一個?

如果你非常關(guān)心你的數(shù)據(jù),但仍然可以承受數(shù)分鐘以內(nèi)的數(shù)據(jù)丟失,那么你可以只使用 RDB 持久。

AOF 將 Redis 執(zhí)行的每一條命令追加到磁盤中,處理巨大的寫入會降低 Redis 的性能,不知道你是否可以接受。

數(shù)據(jù)庫備份和災(zāi)難恢復(fù):

定時生成 RDB 快照(snapshot)非常便于進(jìn)行數(shù)據(jù)庫備份, 并且 RDB 恢復(fù)數(shù)據(jù)集的速度也要比 AOF 恢復(fù)的速度要快。

Redis 支持同時開啟 RDB 和 AOF,系統(tǒng)重啟后,Redis 會優(yōu)先使用 AOF 來恢復(fù)數(shù)據(jù),這樣丟失的數(shù)據(jù)會最少。

AOF BGREWRITEAOF 重寫

因為 AOF 的運作方式是不斷地將命令追加到文件的末尾, 所以隨著寫入命令的不斷增加, AOF 文件的體積也會變得越來越大。

舉個例子

如果你對一個計數(shù)器調(diào)用了 100 次 INCR , 那么僅僅是為了保存這個計數(shù)器的當(dāng)前值, AOF 文件就需要使用 100 條記錄(entry)

然而在實際上, 只使用一條 SET 命令已經(jīng)足以保存計數(shù)器的當(dāng)前值了, 其余 99 條記錄實際上都是多余的。

為了處理這種情況, Redis 支持一種有趣的特性: 可以在不打斷服務(wù)客戶端的情況下, 對 AOF 文件進(jìn)行重建(rebuild)。

執(zhí)行 BG REWRITE AOF 命令, Redis 將生成一個新的 AOF 文件, 這個文件包含重建當(dāng)前數(shù)據(jù)集所需的最少命令。

Redis 2.2 需要自己手動執(zhí)行 BGREWRITEAOF 命令; Redis 2.4 則可以自動觸發(fā) AOF 重寫, 具體信息請查看 2.4 的示例配置文件。

備份 Redis 數(shù)據(jù)

磁盤故障, 節(jié)點失效, 諸如此類的問題都可能讓你的數(shù)據(jù)消失不見, 不進(jìn)行備份是非常危險的。

Redis 對于數(shù)據(jù)備份是非常友好的, 因為你可以在服務(wù)器運行的時候?qū)?RDB 文件進(jìn)行復(fù)制: RDB 文件一旦被創(chuàng)建, 就不會進(jìn)行任何修改。 當(dāng)服務(wù)器要創(chuàng)建一個新的 RDB 文件時, 它先將文件的內(nèi)容保存在一個臨時文件里面, 當(dāng)臨時文件寫入完畢時, 程序才使用 rename(2) 原子地用臨時文件替換原來的 RDB 文件。

這也就是說, 無論何時, 復(fù)制 RDB 文件都是絕對安全的。

以下是我們的建議

1,創(chuàng)建一個定期任務(wù)(cron job), 每小時將一個 RDB 文件備份到一個文件夾, 并且每天將一個 RDB 文件備份到另一個文件夾。

2,確保快照的備份都帶有相應(yīng)的日期和時間信息, 每次執(zhí)行定期任務(wù)腳本時, 使用 find 命令來刪除過期的快照: 比如說, 你可以保留最近 48 小時內(nèi)的每小時快照, 還可以保留最近一兩個月的每日快照。

3,至少每天一次, 將 RDB 備份到你的數(shù)據(jù)中心之外, 或者至少是備份到你運行 Redis 服務(wù)器的物理機器之外。

更多編程相關(guān)知識,請訪問:redis!!

? 版權(quán)聲明
THE END
喜歡就支持一下吧
點贊12 分享