#156 如何設計一個分佈式數據實時同步系統【Go 夜讀】
Golang Learning |【Go 夜讀】#156 如何設計一個分佈式數據實時同步系統
大家如何設計數據實時同步?從一個機房或者一個集群,同步到另一個機房或集群,如何保證工具的高可用?如何保證數據一致性?
大綱
1. 什麼是數據實時同步
2. 為甚麼需要數據實時同步
3. 怎麼設計一個分佈式數據實時同步系統
https://talkgo.org/t/topic/5634
#go #golang #learning #Go夜讀 #talkgo #night #redis
好,大家晚上好
我今天和大家一起來討論一下
我們怎麼樣修計一個分佈式的
一個實時程度的一個工具
然後我先自我介紹一下
然後我現在是就職於某個視頻平臺
主要負責基礎架構和組件的方向
然後個人的話比較喜歡去研究一些
基礎架構啊,設計庫啊
還有一些分佈式的技術
然後左邊這個是我的個人的公衆號
大家可以關注一下吧
然後裏面也寫了一些
我覺得還是比較好的一些文章吧
然後今天主要是分爲三塊吧
就什麼是實時程度
爲什麼需要這個實時程度
然後我們怎麼樣設計一個實時程度的一個工具
什麼是實時程度呢
我就主要聊一下需求吧
因爲比如說我們把一個數據端
數據端從一個雲端
同步到一個目的端
這兩個端的話它是沒有任何的關係的
例如是從一個redis的一個集羣
同步到另外一個集羣
或者在兩個不同的地方
對吧
然後它們之間並沒有什麼關係
但是經過這個實時程度之後呢
它們之間有了一個關係了
然後我們但是我一個是做這樣的實時程度呢
我們可能就需要
它能夠有選項同步的一個功能
比如說目的端沒有數據的話
你要能夠選項數據同步過去
然後增量的話就是
它會不斷的寫數據嘛
這個很嚴的
同步到目的端去
斷點續傳的話
就是如果是目的端這邊
斷機了或者是下線了
等一下在上線的時候
我也能夠接着之前同步的那個位置繼續同步
下面高可用的話
就是我這個工具本身我要是高可用的
那麼可能它本身有故障啊
或者是bug啊
導致它崩潰的話
另外一個進程它能夠繼續接着去同步數據的吧
然後一致性的話
就是我的數據本身我要是最好是它能夠是最終一致的
對
這主要是基於這五點需求吧
五個需求
然後爲什麼要需要實時同步呢
可能第一個最重要的就是我們就要進行一個高可用
因爲我們的服務可能很多是那種雙活啊
或者是跨基防啊
這種一地雙活多活啊
對吧
所以我們服務的話可能比較容易
它是無狀態的吧
做部署
但是數據本身的話
它可能就不是那麼特別好去做一些高可用的
所以我們會把數據
總部到多個IPC
通過這樣的實時同步工具
然後數據安全的話
是我們要把數據進行一個備份
對吧
或者備份到S3或者別的地方去
或者跨基防備份也是一樣的
然後再生輕盈盈的話
可能就是我們例如說
我們做一些集權的拆分合表啊
這種可能舉個例子吧
例如說我們可能剛開始
可能很多業務同時去合用一個Zenith集權
但是隨着業務的規模比較大的話
我們可能要進行拆分的
所以我們可能要通過這樣的工具進行一個拆分
因爲它是實時的
而且它能夠保證不下線
不行積的方式拆分
這是我們爲什麼需要這種同步的工具
然後接下來就是我們來一起設計一個Redis
的一個實時同步工具
然後我們先梳理一下功能點和需求
同步這一塊的話
可能就是剛剛也講了
包括斷點需求 權量增量 一致性
然後還有一個本地緩存
本地緩存的話就是爲了
因爲我是從一個原的Redis集權
同步到一個目的Redis集權
所以我會盡量去不去打擾原Redis集權
因爲有的時候如果遠方來進行一個權量同步的話
可能對Redis集權造成一個影響
它的穩定性會有很大的影響
然後工具本身的話
我是希望它是一個夠可用的
然後組成之間能夠複製
因爲這個複製的話
主要是複製我本地緩存的數據
數據處理這塊的話
就是我要進行一些過濾
就跟我們說集權拆分一樣
我可能會根據一些簡據key進行的過濾
然後可觀測性跟API的話
就是我們可能是一些運維的
就結合到每個公司的一個運維的體系裏面去
所以需要這些指標跟一些API操作
數據語言的話是
語言和目的的拓扶異構的話
就是我們可能Redis集權
原端跟目的端的話
可能它們的集權拓扶是不一樣的
例如說可能原端的話是三個節點
可能目的端是六個節點
因爲我要儘量會有這種擴容的需求
可能類似於之前的話是
有可能是我一個機房的毒流量比較大
另外一個機房毒流量比較小
那這個大的節點
毒流量比較毒氣比較大的那個流量的機房
可能它們集權規模大一點
拓扶感知的話
就是預示我在加節點擴容縮容的時候
我又能夠感知到
不能說不至於這樣情況停機
然後是我們爲什麼要自研一個這樣的工具
就剛剛左邊那個功能點
就是剛剛我說的那些需求點
這是我們必須要做的
必須要的一些功能點
然後我們調研了幾個工具
包括阿里巴巴也開源的Redis Shock
然後幣源的也是阿里巴巴的DTS
然後還有一個寫程開源的工具叫X-Type
然後這幾個工具都有一些不滿足的地方
包括這個斷點續傳的話是
阿里巴巴這個Redis Shock的話是
它老版本是支持的
但是沒有本地緩存
但是新版本它已經不支持了
然後DTS跟X-Type的話
那都是支持斷點續傳的
然後語言和目的的拓扶的異構
是隻有DTS是支持
另外兩個它是不支持的
所以我們的話就沒辦法進行一個擴容縮容
而且必須保證語言跟目的端的
然後拓扶的變化三個都是不支持的
所以只要一擴容或者是遷移那個slot就必須停機
高可用的話是Redis Shock不支持
另外兩個都支持
然後數據的一致性的話
Redis Shock是最終一致的
然後DTS是最終跟弱一致性
寫程之前我問過他們
他們是說弱一致性的
他們可能是定時更新的偏量那些東西
對所以基於這幾個功能點的話
我們就覺得要自己來做一個這樣的工具
然後這個工具的一個基本的語言裏的話
這樣子例如說我這個語言端有三個Redis節點
對吧
目的端也有三個
我們這邊同步工具的話
在中間這裏它會有三個模塊
它這三個模塊有多少個模塊
就取決於我語言端有多少個Redis節點
所以你看一下我這三個模塊
然後每個模塊它是單獨運行的
例如說我們看這個模塊
這個模塊的話它是有一個輸入端
它其實就是僞裝成一個Redis的一個SLAVE
然後從Redis語言端這邊這個節點這裏去
同步數據
然後寫到我們這個本地緩存
然後再從本地緩存的團的這個輸出端
輸出端可能是做一些類似於過濾替換這種操作
然後再寫到目的端來
它這個可能是寫了多個目的端
但是我這裏爲了簡單就畫了一根線
然後高可用
高可用的話其實
大家可以看一下我這語言端
在上面原來上面有三個節點
然後目的端的話有四個節點
同步工具的話它有兩個進程
兩個進程
所以我這裏其實每個同步工具它都會有三個同步模塊
因爲我語言端是有三個節點
這邊它也有三個
然後它每個模塊是獨立的
獨立進行選舉
所以這個
同樣的左邊這個同步工具的話
它是有兩個組
然後一個層
這邊的話就是一個組兩個層
我們可以看一下這個
原端這個最左邊這個月底子節點
它的數據因爲
因爲左邊這個工具它是組對吧
它這個模塊它是這個月底子節點的一個組
所以它會把工具複製到這裏來
然後呢
同步到目的端去
同時它又把這個數據它又寫到那個
同步區
這種
這種的話是一個組爲戶備
我們會說是一個高可用裏面一個P2P的一個家用
這個有個好處的話就是
如果一個月底子這個進程
這個同步工具這個進程如果當機的話呢
它只就它可能就影響到了兩個同步模塊
但是呢這個這邊就還有一個同步模塊沒了
就不會影響到
對吧
然後我們再看一下選舉
因爲我們要進行一個高可用
肯定進行一個選舉
所以一般呢是我們進行一個分佈區裏面的選舉的話好像分兩種
一種是協商式的
一種是搶佔的
然後協商的話呢就是投票最新的數據
像很多數據庫啊包括太極幣啊
其實它們這樣都是進行投票的
誰的數據最新的話就選誰
選擇誰爲那個leader
這種有個缺點
它的選舉時間可能稍微長一點
那麼它要進行一個協商
它有個反方的一個成本
但是它這種就對於那種
對於那種數據庫啊
這種有狀態的服務
搶佔式的呢
就類似於說誰先到呢誰先服務
類似於說我們就搶一把那個分佈式鎖
誰搶到了誰就是leader
對這種好處就是選舉的時間很短
因爲它沒有一個協商的過程嘛
它這種就適合那種無狀態的服務
對於我們這個實際投票工具呢
我們到底是選哪種呢
到底它是有狀態的還是無狀態的
其實對於我們來說
這個本地緩存它確實是數據
它是有狀態的
但是其實這種緩存數據它其實可有可無
儘量還是不用丟失對吧
所以我們覺得
我認爲它是一種半狀態的
就是儘量還是要保持它的不用丟失狀態
然後同步工具和組層之間的延遲有多大
是快速提供服務重要還是最新的數據重要
然後一秒鐘能從redis源同步多少數據
後面這三個問題的話呢
我們看一下左邊結合左邊的圖看一下吧
這裏是我現在有三個模塊
一個組兩個層
我們看到左邊這個層庫的話呢
它的數據比較少
然後右邊這個比較多一些
如果我這個組庫現在當機了
這個模塊現在到了
然後我假如選取了這個模塊爲leader
它的數據量少
但是我應該是搶鎖的方式
假如我選擇了它爲leader
但是即使它可能在100毫秒或者200毫秒
它就從redis這邊把數據給追頻了
因爲它會提升爲組之後
它會從這邊開始同步數據了
所以它就很快的時間
它就能夠把這個數據追頻右邊這個組庫了
所以我們進入這個考慮的話呢
其實我們是這個選舉的話是結合了兩種方式
我們剛開始會進行一個快速選出leader的一個方式
這是一個搶戰士的一個選舉
我們可以看這個圖
其實從這裏有兩個候選者
一個A一個B
A的數據明顯就少一些
這個綠色的就是數據了
B的數據多一些
所以A如果先發起選舉競選的話
那它就競選成功了
我們這個是可以用EDCD也可以不用EDCD來做
不用EDCD的話
它就會依賴那個原裝的redis進行一個鎖
對吧鎖
然後它如果選舉成功了之後
它就變成leader了
然後這個B的數據它多一些
它後發起選舉
所以它失敗了
它就變成了一個同步了
一個跟隨者
這是第一個階段
我們會搶戰士的選舉
然後第二階段我們進行一個協商
假如我們現在舉個例子
如果這個新的A成爲leader之後
它過了一下子
然後數據還是比這個B少
對吧
那個B肯定會就以一個跟隨者的方式
去連接到A裏面去同步數據
它說我的偏移量是100
然後A就發現自己的偏移量只有50
然後B的偏移量比它多一些
數據更新一些
所以它就把它的領導的權
它就交接給那個B了
所以這個B就變成新的leader了
它就開始全部數據給A了
A就變成了一個跟隨者
所以我們是結合了這兩種方式
就是先進行一個
讓它先起來
服務起來
先作爲一個選舉的leader來提供服務
A如果在很短的時間內
它不能夠從原redis上
把數據追評的話
我們再有一種這種後備方案
進行一個交接
把這個領導權
leader權交接給數據最新的
所以我們就結合這兩種方式
做這種半狀態的這種高回應的選舉
然後腦裂
腦裂的話如果
如果存在兩個leader的話
會有一些問題
因爲兩個leader都會同步
因爲我們是leader進行一個數據同步
然後follow的話
它是不會同步的
所以如果是兩個leader的話
這種類似於這種非密等的這種操作
它可能就會執行兩次了
對吧
這個很明顯已經進入不一致了
然後還有一些更極端的方式
我們看這裏假如有兩個leader
這個藍色的leader
它把這個數據回放了三個命令
一個是我們假設
對同一個key進行操作的
先是一個設置
然後一個刪除再一個設置
然後這個leader它也同步數據
也是同一個key
它就設置然後刪除
假如它崩潰了會掉線了
這個時候數據就不一致了
這個key可能就被它刪掉了
對吧
它後面應該還跟設置的一個命令
沒有同步過來
所以我們就要避免這種腦裂的情況發生
然後我們怎麼避免腦裂呢
這個時候我們就要一個足跡
我們每一個leader它是有一個足跡的
假如這個足跡是三秒鐘
其實我們就得在它變爲leader之後
隔了一秒鐘它進行一個續足
如果續足兩次它都不成功
或者三次都不成功的話
它這個時候它就自己要能夠退出
它只要能夠退出了之後
其他的那些節點它就能夠馬上感知到
感知到了之後它就會進行新一年的選舉
所以我們這是一個定期的續足的一個過程
然後採取我們這裏面的所有的操作
同步包括複製
還有一些異步的操作
我們都必須在這個足跡內的上限穩定防止
因爲如果你這個足跡已經過期了
你還在那裏同步或者做別的操作的話
這個時候可能是一個比較穩定的規矩
對吧
其實這個我覺得還是比較好實現的
只要我們通過那個sync go
或者通過go的context
我們就可以把所有的足跡
都控制在那個context上限穩定
然後本地緩存
我們需要本地緩存
我們其實是主要是爲了避免頻繁的去redis
選擇同步數據
因爲如果目的端的redis如果是當機了
或者是網絡斷了
別的原因
這個時候我們這個工具
它會不斷的同步數據在本地緩存裏面去
如果隔一段時間或者是10分鐘20分鐘之後
目的端的redis起來之後
我就不會從redis那邊去拿數據了
就直接從本地緩存那邊拿數據
因爲其實對於redis這種庫來說
它其實如果是全量同步這種來說
它對它的影響是非常大的
所以我們要儘量避免這種情況的發生
然後對本地緩存是我們有哪些需求呢
我們首先要對這個RDB和AOF進行一個管理
對吧
然後RDB就是一個全量數據
AOF是一個增量數據
AOF有點像數據庫裏面那個WAL一樣
然後我們又能夠讀寫這兩個兩種文件
然後我們對本地緩存它就存在那個磁盤裏面
所以然後我們超過了那個容量
我們也能夠自己能夠進行一個回收
再是我們這個數據我們要有一個安全性的問題
如果是本地緩存的數據我們要進行一個校驗
它如果是數據散化了
我們也能夠處理這樣的情況對吧
還有我們本地緩存一個實際化的一個策略
基於這幾個需求我們看一下那個本地緩存是怎麼設計的
首先我們看一下它的數據的一個描述
這種有狀態的數據都會有一個描述數據的一個範圍
假如我是這個左跟右一個左邊右開的一個區間
來描述這個RDB AOF它的一個能表述的一個數據的一個範圍
我們看一下這個RDB A它的那個左邊
即使它這種零這個位置開始的它結束是100
然後這個AOF從100開始到150結束對吧
等一下如果我那個目的端的那個
我在訪問讀數據的時候
我就以這個數據的偏移量
我們就認爲這個是偏移量
如果假認我的偏移量是10
那我就定位到這個RDB了
我就要重複這個RDB文件了
所以我們要描述這個數據的一個範圍
是通過這種左邊右開的這個區間來描述的
然後垃圾回收
垃圾回收的話是我們有一個配置裏面可以設置一個預值
然後超過了預值它就觸發了
觸發了後我們是從那個先從最老的數據開始回收的
那你肯定不能從中間回收對吧
那中間回收老數據就沒意義了
所以我們從最老的開始回收
當它這個數據文件的那個引用等於零的時候
它才能夠被回收
我們看這種情況
這個呃原端這個regex呢
它在寫數據寫這個最後這個alf對吧
所以它的引用是1
所以這個這個alf就不能進行回收了
然後我們再看一下到手第二個
它有那個它有個獨的那個在上面引用
它是要把數據同步到那個目的端去
所以它有它的引用是2
因爲這還有一個的要把它同步到一個從節點上去的
它就會一直這麼回收回收到這個引用戶位裏面
然後這個數據我們要進行一個持久化對吧
因爲其實呃對於任何的這種
呃例如我們打開一個文件
我們往裏面寫數據的話呢
其實它有經過一層層的緩存
包括我們的用戶空間
我們可能標準通往會進行一個緩存
包括我們的內核也有一個緩存
包括我們頁緩存的快緩存
這兩個雖然是一個內存地址
但是在OS上面它是這兩塊對吧
包括我們的一個存儲設備
它也有個設備的一個緩存
其實這裏面任何一個緩存
如果是當機呀或者別的原因呢
它都會導致這緩存的丟失
其實我們雖然說這個緩存不是那麼重要
但是我們還是儘量避免這種事情發生對吧
所以其實這個緩存呢
它也有它存在的意義
因爲緩存本身就是一個架構上的一個抽象
跟我們一個設備管理的一個產物嘛對吧
因爲計算機裏面不是有句名言嗎
說任何問題都會通過一個間接層來解決
所以我們就對於這樣緩存呢
我們肯定要定義一個有一個刷新的策略
類似一個強制它持續化到磁盤上面去
那我們有哪幾種策略呢
一般來說我們說最底層就是操作系統
自己去處理這種問題
它這種也是性能最好的
因爲它會結合我們的一個各種內存的一些策略
還有我們的一些調度策略
然後包括我們這個工具的話
本身它其實可以配置是操作系統去處理
還是時間空間的一個處理
然後還是實時的
時間跟空間呢
就類似於說我的髒數據超過了多少
然後髒數據時間超過多少
它就進行一個刷盤的一個策略
這種相對來說是比較準確一點的
然後實時的話呢
是我每寫一條數據我就進行一個刷盤
這種基本上我覺得應該不會這麼用
包括數據庫它其實很少這麼用的
這種方式肯定是最安全的
它不會丟失數據對吧
但是它的延遲肯定是很高的
而且寫放大非常大
假如我一個redis命令一個set命令
它可能就類似於說打比方是20個字節一樣
如果每次在那邊寫一個命令
它都進行一個刷盤的話
可能寫到詞盤上面
可能就一個8KB的一個寫放大
這個其實對詞盤來說它其實是壓力非常大的
所以我們實際化策略有三種
一般是都是選用這種招職性的自己處理的
那麼這是畢竟是一個緩存
其實沒那麼重要
但是如果當我們對那種redis穩定性要求非常高的情況下
我們一般會選用這種中間這種策略
然後本地緩存的數據校驗
因爲我們會對數據進行一個校驗
因爲數據損壞了
它的CRC校驗不通過
這個時候我們就會把這個緩存給丟棄掉
然後重新從那個原端進行一個同步
對這是我們一個校驗的一個過程
然後輸入端
剛剛我們有聊過每一個同步模塊它都有一個輸入端
然後這個輸入端它就是僞裝成一個slave的
redis一個存庫
它其實是通過redis本身的一個不幸的GA進行的同步的
然後把數據重複過來
那我們再看一下這個斷點續傳
斷點續傳是怎麼實現的呢
它就其實把這個目的端這邊會存在一個偏移量
這個偏移量其實就是我原端
目的端這邊的redis已經同步到原端redis的什麼位置了
然後我會每次這個工具要起來的時候
它就會去目的端redis這裏拿這個偏移量
例如說如果它這個偏移量小於我這個本地緩存
就是在本地緩存這個外面像這個是小於它對吧
這個是大於它
這種情況我就沒辦法同步了
因爲本地緩存就沒有這個數據對吧
所以它就會把本地緩存數據丟掉
然後從原端redis內面進行一個同步
但是如果這個偏移量在本地緩存這個數據範圍內
它就會從本地緩存進行一個同步
這是我們鍛鍊續船的一個實現
然後突破的感知
突破的感知的話就是我們可能語言跟redis集羣
它的那個突破結構是不一樣的
有可能是三個分片
那邊可能是六個分片對吧
而且我要面對這種破溶和縮溶這種情景
還有slot的這個遷移對吧
然後組成切換我也會有這種問題
因爲破溶縮溶的話我就會調整那個同步模塊
因爲我是如果原端從那個三個節點調整成六個節點的話
那我這個同步模塊也跟着也得調整成六個模塊
slot的遷移的話我會檢查那個slot的映射
因爲其實它這個slot如果直接遷移的話
我們就會更改這個一致性的策略
包括這個組成切換也是一樣的
因爲它這個同步的話我可以選擇是從redis集羣
或者redis節點的那個同步還是從那個組固同步
還是說優先組固同步
還有這種選擇的這個語言角色
因爲組成遊戲切換的話我這個角色就得變化對吧
所以我就會還是都會到處理這個更改一致性策略
一致性策略我們後面可以後面會講
然後我們再看這個輸出端
輸出端它其實是一個
從本地緩存這邊來讀取數據
數據然後它對數據進行進行解析
解析它的RGB格式AOL格式
解析完了它進行一些處理
進行一些過濾
然後再進行對數據進行一些回放到目的端去
這是一個數據端的一個三個模塊解析處理和回放
然後我們就簡單看一下這個它的數據的解析
因爲對於RGB來說它就是一個是頭一個是尾對吧
然後中間可能就是每個數據庫的一個區域了
每個數據區域裏面它都有自己的一個KV
對大概它是這個樣子分佈的
然後我們再看一下它的AOL文件
AOL文件它也有個頭
它都是一些命令
然後我們看一下這個set命令
它其實它這個AOL文件的那個組織
它有點像那個TLV的那種編碼方式
例如說我們看現在這個分三塊
這一塊代表這三的話
一個星號代表這是一個數組
然後就三代表這後面有三個元素
然後多了代表是一個字符串
這個三代表這個字符串的長度
那我們看這個set剛好是三個字點的
然後T四個字減
然後這個value它也是四個字減
然後它是通過這種類似於TLV的方式進行編碼
數據處理它就會對一些命令進行一些QE進行過濾
還有一些特殊的處理
類似有時候過濾掉cluster
還有flushdb這種命令
這個可能對於那種slot不對稱的情況下
我們是沒辦法進行一個flushdb把它突破到過濾端去的
然後數據的回放
這一塊的話其實是一個最爲複雜的一個模塊
因爲它考慮的問題非常非常多
包括我們要保證怎麼去保證一致性
還有怎麼去保證回放的性能
以及如何進行一個p量回放
還有對於那些大key要怎麼處理
我們就看一下我們先怎麼去保證一致性
如果對於這種源跟radius
目的端它這種結構對稱的情況下
包括我們的slot對稱
首先我們保證它們的節點是一樣多
它的槽位都是對稱的情況下
我們會通過這種d處理的方式
例如說我們同步
這裏面假如有兩個radius命令
然後後面會跟着一個偏移量的更新
例如說把這兩個命令同步到這邊來的時候
馬上它就會把偏移量也更新掉
因爲它是以打包的方式發到目的端來的
所以它這種方式的話就能保證它的最終一致
如果對於這種不對稱的方式
我們就不能通過這種方式做了
我剛剛這裏還有個東西忘記說
就是它這裏有三個偏移量
這三個偏移量是源節點
這邊有多一個節點
它這裏多一個偏移量
對
然後對於這邊來說它只有兩個偏移量
所以它就不能更新到這裏或者更新到這裏
對吧
它就不能通過這樣打包的方式去做了
對
所以它就沒辦法通過熱電室那種事物的方式進行回放
所以它就只能通過這種定時更新的方式去更新這種偏移量
所以這種情況下它就不是最終一致了
它有可能就是弱一致的
因爲有可能這個CMD命令同步過去了
偏移量還沒來得及刷新過去
這個地方就崩潰了
然後等一下再啓動的時候
這個可能就會重新同步這個命令了
但這種對於那種非密等操作來說是弱一致的
所以我們這種同步的話是對於這種非對稱結構是弱一致
輸出端我們怎麼樣提高性能呢
我們可以看一下
我們其實肯定最終得保證它的一致性的前提下
我們儘量的提高性能
但是同時我們也要考慮它的延遲問題
首先對於RDB
我們是可以進行一個
因爲它的數據它是無序的
不好意思
喉嚨有點發炎
數據它是無序的
所以我們既然它沒有依賴關係
所以我們就可以進行一個併發的一個回放
但是AOF這種增量數據它是有序的
它的命令行它是有序執行的
所以我們就只能進行一個順序的回放
單線程序
但是這後面這種情況我們會進行一個打包
因爲打包的話相對來說它只是速度就快一些
它沒有往後的還銷了
但是我們也不能打太多了
對吧
因爲它會影響這個延遲問題
所以打包多少命令
包括我們的打包的命令
那個時間的範圍空間的範圍
我們都是要考慮的
所以我們通過這種方式
這種邏輯上的優化來提高這個回放的性能
當然還有一些
比如說語言級別的
包括我們緩存的
包括那種鎖的優化
來提高這種回放的一個性能
然後如何回放呢
對於這種rdb文件的回放來說
其實它是比較麻煩的
因爲對於一般的情況
我們就直接通過它的一個restore
把一個key進行一個直接回放就可以了
但是如果那個key比較大
非常大的情況下
例如說我們看到有個3GB或者是4GB的key
我們就不能通過這樣rdb restore進行回放了
我們就必須把這個key給拆分
拆分成很多小命令
然後進行一個回放
這種情況回放的話
我們有可能考慮很多情況
包括那種版本之間的兼容性
我們都會考慮
它的命令版本之間有可能是有兼容性問題
對吧
還有你這個rdb的版本
那麼有可能語言端redis是14.0
來目的端是5.0
我們都會考慮這種情況
然後還有一個特殊結構
相當一種function
它的回放可能也不一樣
對
這是對一個rdb的回放
然後最後我們看一下有一個可觀性
因爲這個可觀性其實對於現在來說也是一個基本的一個要求
我們可以看到我們這裏有一些類似於說發送命令行的一些綜合的指數
發送命令行的QPS
包括我們本地緩存的一個存儲的一個站
還有我們這個複製延遲
這個字節一個空間層面上的
還有複製延遲的一個時間層面上的一個延遲
這是我們語言redis的一個節點數
這當然我就沒有展開了
這裏還有一個命令的
我們類似於說同步的多命令過濾的多
命令的指標
還同步狀態
是點亮同步還是增亮同步
對吧
這些狀態
然後本身我們集成的一些指標
我們存根組的那些狀態
然後寫的都是數據量
還本地緩存的
緩存的空間
寫的現在寫的QPS多少
這個QPS
然後包括我們資源的一些go的資源
這些go routine等等
包括我們內存的CPU的開銷
這是我們官方性的一些
然後這個項目的話
我們現在實際已經開源了
對
大家可以直接掃描這個以後
然後也可以看一下我們這個
直接點那個鏈接
看一下
方便的話可以給我們點一個stop
以及支持
然後
我們看一下這個鏡像
其實我們這裏是有一些演示的一些鏡像
直接可以做個run這本運行起來
然後這前面是一個語言的edit
然後我們就可以
這是目的當中的edit
然後可以monitor這個
目的當中的edit
然後在這邊寫的話
那邊就可以看到數據了
等一下我們會演示一下
然後這個項目的話
其實我們就今天的一個過程
包括我們剛開始
我們是用了阿里巴巴開源的
那個Redistock
用了剛開始
因爲前面說了
有一些需求它是沒那麼滿足我們的
所以我們就
自己
造了一陣輪子
然後遷移到我們這個新的工具上面去了
但是這兩種方式都是我們通過
雖然我們是說的是雙活
但是這種我覺得是僞雙活
那種僞雙活
因爲它是通過那個proxy
把數據寫到另外一個IDC裏面
拿到通過這個工具統一過來的
這種延遲相當於是比較高的
然後最終我們現在還是想做這種真實雙活
現在我們也已經開始做了
對
就這麼
寫各自的那個集羣
然後
改
通過改刀的Redistock
進行一個雙向的一個同步
然後謝謝大家
這個前面的PTT分享就完成了
然後我們現在來可以來看一下
大概大概給大家演示一下吧
我們可以看一下
我們現在是這個是語言端Redistock
這個是目的端Redistock
我把那個
改成那個monitor
然後我們把這個同步工具也起來
起來之後呢
其實我們
可以看一下我們設計
我現在設一個key
前面這個
它已經通過過來了
對吧
它其實我們一看到這個
它其實在同步的話
是用Redistock這個
失誤的方式
然後設置了這個key
然後同時更新了它這個偏移量
可以看到這個偏移量在更新
對吧
我這個RUNID
是應該是複製ID
就是它的那個
Redistock本身的一些
內部的一些實現的
然後我們再回再重新再
我們會看到這偏移量
在更新了
對吧
它在往前面
追加
這個大概就是我們的
比較簡單的演示
我們同時看一下這個
倉庫
倉庫的話
現在是在我們公司的一個
倉庫下面
一個組織下面
然後
大家可以看一下這個文檔
其實還是比較集羣的
包括我們的那個
描述
就是比較特性的一些描述
特性描述的話
我們就比較多了
對
然後還有一些產品上的比較
這個我剛剛已經那個了
然後還有
怎麼樣快速開始
我們就類似於一個整理構建
然後包括以容器的方式進行一個運行
然後這些是運行我們的一個demo
就剛好演示那個部分
對
還有我們怎麼去配置
我們的部署
API
還有我們測試的結構
其實我們這個測試結果是比較詳細的
對吧
相對來說我們應該是我們的RGB測試
其實就是redis所謂的數據結構
都測試了一遍
但是我們是從4.0開始
所以2.0這種數據結構
包括我們這個兼容性的問題
讓我們看一下我們版本的兼容性
原端從4.0
從不到5.0
包括這5.0到7.0這種方式
每個這種
原端跟redis
目標的版本不一樣
都進行了一些測試的
然後我們看一下這個項目的一個結構
這的話是我們的一個命令
因爲當然我們是想把這個工具
做成不僅僅是一個統一的工具
還有一些類似於說備份
或者是教驗它的那些備份的數據的
一些解決性的這種工具
所以我們是一個命令好的方式
裏面有很多
包括我們一個同步的命令
一些同步的
包括一些RGB的檢測的
一些比較的那些命令
然後這是我們的一個配置文件的一些
解析的一些package
它本身用勾寫的
這是我們的一些容器的一些demo的一些
豆瓣
這是我們的一些文檔
這裏是我們的一個同步的
工具的一個具體的實現
這是我們的一些
輸入樁
然後我們的輸出樁
Channel的話就是緩存的
我們是用它是一個通道
這是我們的一個組成的一個
數據的作業
一些實現
然後這主要是一個同步的一個邏輯
同步邏輯的一些實現
大概我馬上跟大家分享
大概就是這些內容了
然後楊文
好的
謝謝
謝謝彭良的分享
然後我們可以看一下大家有沒有問題
同步工具裏的緩存是解決什麼問題
緩存的話是主要是爲了頻繁的去避免
打擾那個redis源端的一個
穩定性
對
因爲它是這樣子的
我找到一個PPT
我們看這個PPT
因爲如果沒有這個緩存的話
如果這個目標端
它當機了
假如當機了一個小時
或者是我要進行一些處理
如果這個時候它再起來
它的偏移量肯定就已經落後了
如果這個時候我再
拿着它的偏移量去源redis端
同步數據的話
如果沒有本地緩存
我就肯定只能這麼做
對吧
它肯定就會進行一個全能同步的
因爲全能同步對於redis來說
影響是非常大的
其實不管redis還是別的數據
影響都很大
那麼它第一個同步的數據量很多
第二個對於redis來說
它是本身是單線權的
它會進行一個fork
這種fork的話
其實對redis它是一個停機的操作
所以我們今天會把數據保存在本地
然後如果是這邊停機了很久
或者網絡斷斷了
我們再從這邊緩存進行一個同步
大概是這麼一個作用
然後他說目的端的目標端是不是不穩定
目的端不穩定是什麼意思
這個我不是很理解
目的端不穩定是很不穩定是什麼意思
目的端不是說很不穩定
例如說因爲我們這種同步工具
可能用的比較多的場景
就那種跨數據中心的場景
因爲這種網絡其實它的有可能是不穩定的
對吧
對
所以因爲有可能我的目的端也可能會進行一些用文操作
它也有可能都會進行一個停機操作
所以我們就儘量去保證這種不去打擾雲端redis
保證它的穩定性
所以你先掛兩條用端
對
也不一定掛這邊
網絡中斷的情況下它也會用到
其實我們同步工具會跟語言的端的redis
部署在同一個idc裏面的
所以如果這邊的網絡斷了
那它肯定過一段時間起來之後
網絡連接之後
它肯定還是需要本地緩存
對吧
有這個緩存肯定還是好一些
停機太久的話
其實也不一定要全程同步
如果停機太久的話
我本地緩存有所有的數據
它就不會進行全程同步
它只要剛剛我後面看的
只要我目的端的數據
在這裏
只要我本地緩存的數據
包含了目的端偏移的數據
它就不會進行全程同步
如果是這種情況
還是說這種情況
它就會進行全程同步
喂
我看你剛剛有傢伙
他問你還能不能做這麼大
好像有的說緩存設置這麼大
緩存它其實也不算很大
一般我們說我們
部署了之後
它其實就看你磁盤空間多大了
你設置太大了
其實也沒太大意義
對吧
它本身就是緩存
只是說這種短暫期的那種
網絡中斷了
或者別的情況
我們還是
還是會要保證它不去打擾
好
看大家還有沒有其他的問題
好的
謝謝分享
好的
謝謝大家
好

