Redis執行個體間的單向資料同步 - Data Transmission Service

Data Transmission Service支援Redis資料庫的單向同步，適用於異地多活、資料異地容災等多種應用情境。本文以雲資料庫Tair（相容Redis）執行個體間的單向資料同步為例，介紹資料同步作業的配置流程。

前提條件

已建立目標雲資料庫Tair（相容Redis）執行個體，建立方式，請參見步驟1：建立執行個體。
目標雲資料庫Tair（相容Redis）執行個體的儲存空間需大於源雲資料庫Tair（相容Redis）執行個體已使用的儲存空間。

注意事項

類型	說明
源庫限制	為保障同步品質，DTS會在源庫中插入一個首碼為DTS_REDIS_TIMESTAMP_HEARTBEAT的Key用於記錄更新時間點，如果源庫為叢集架構，DTS會在各個shard上均插入該Key。同步過程中會過濾該Key，同步任務結束，該Key就會到期。如果源庫為唯讀執行個體或者DTS帳號沒有寫（SETEX）許可權，上報的延遲可能不準確。為保障同步鏈路穩定性，建議將設定檔redis.conf中`repl-backlog-size`參數的值適當調大。請勿在源庫中執行`FLUSHDB`和`FLUSHALL`命令，否則將導致源和目標的資料不一致。如果源庫中的某些Key使用了到期（expire）策略，由於可能存在Key已到期但未被及時刪除的情況，所以在目標庫中查看到的Key數量（例如通過info命令查看）會比源庫的Key數量少。若源端為儲存介質是持久記憶體的Tair（企業版）執行個體，則需確保appendonly的參數值為`yes`。更多資訊，請參見操作步驟。若源庫為自建Redis執行個體：源庫單機版Redis同步到目標庫叢集版Redis的操作限制：由於叢集cluster只允許單個命令操作單個slot，若在源庫執行多Key操作時，Key不在同一個slot或涉及多個slot，則會出現以下報錯： `CROSSSLOT Keys in request don't hash to the same slot` 建議在DTS同步過程中僅執行單Key操作，以免導致鏈路中斷。
其他限制	若源執行個體為自建Redis，則Slave和Master之間的複製逾時時間參數repl-timeout建議使用`config set repl-timeout 600`命令設定為600秒。若來源資料庫資料量比較大，可以適當增大repl-timeout參數的值。同步期間，如源Redis發生擴縮容（如增加或者減少分區）、規格變更配置（如擴大記憶體），則您需重新設定任務。且為保障資料一致性，建議重新設定任務前，先清空已同步至目標Redis的資料。若源或目標執行個體為自建Redis，且在同步期間該自建Redis的串連地址發生變化，則需要重新設定任務。建議源和目標庫版本保持一致，或者從低版本同步到高版本以保障相容性。如為高版本同步至低版本，可能存在資料庫相容性問題。全量資料初始化時DTS將佔用源庫和目標庫一定的讀寫資源，可能會導致資料庫的負載上升。建議在執行資料同步前需評估源庫和目標庫的效能，同時建議業務低峰期執行資料同步。在DTS同步期間，不允許有除DTS外的資料寫入目標庫，否則會導致源庫與目標庫資料不一致。若目標執行個體的架構類型為叢集版且某一個分區達到了記憶體上限，或目標執行個體的儲存空間不足時，DTS任務會因記憶體溢出（Out of Memory）而失敗。若目標資料庫記憶體不足，觸發資料逐出時，由於雲資料庫 Tair（相容 Redis）的預設資料逐出策略（maxmemory-policy）為volatile-lru，會導致目標庫與源庫資料不一致的情況，但不會影響任務的正常運行。為避免該情況發生，建議將目標庫的資料逐出原則設定為noeviction，當目標庫記憶體不足時，資料會寫入失敗，同時任務也會失敗，但目標庫不會因為資料逐出而遺失資料。說明關於資料逐出策略詳情，請參見Redis資料逐出策略介紹。若源或目標執行個體已開啟透明資料加密TDE功能，則暫不支援通過DTS同步資料。若在資料同步過程中出現包括但不限於以下情況，可能會使全量資料重新同步至目標端，從而導致資料不一致。源端或目標端Redis發生串連閃斷，導致斷點續傳失敗。源端或目標端Redis發生主備切換或故障切換。源端或目標端Redis的串連地址發生變化。修改DTS執行個體的同步對象。若雲資料庫Tair（相容Redis）執行個體已開啟TLS（Transport Layer Security）加密功能，則必須以SSL安全連線的方式接入到DTS（不支援TLSv1.3）。當前暫不支援已開啟SSL的雲資料庫Tair（相容Redis）執行個體，以雲執行個體的方式接入DTS。若執行個體運行失敗，DTS技術支援人員將在8小時內嘗試恢複該執行個體。在恢複失敗執行個體的過程中，可能會對該執行個體進行重啟、調整參數等操作。說明在調整參數時，僅會修改執行個體的參數，不會對資料庫中的參數進行修改。可能修改的參數，包括但不限於修改執行個體參數中的參數。

費用說明

同步類型	鏈路配置費用
庫表結構同步和全量資料同步	不收費。
增量資料同步	收費，詳情請參見計費概述。

支援的同步拓撲

一對一單向同步
一對多單向同步
級聯單向同步

關於各類同步拓撲的介紹及注意事項，請參見資料同步拓撲介紹。

支援的同步命令

APPEND
BITOP、BLPOP、BRPOP、BRPOPLPUSH
DECR、DECRBY、DEL
EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT
GEOADD、GETSET
HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX
INCR、INCRBY、INCRBYFLOAT
LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM
MOVE、MSET、MSETNX、MULTI
PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX
RENAME、RENAMENX、RESTORE、RPOP、RPOPLPUSH、RPUSH、RPUSHX
SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE
ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE
SWAPDB、UNLINK（僅當源端Redis執行個體的版本為4.0時支援）
XADD、XCLAIM、XDEL、XAUTOCLAIM、XGROUP CREATECONSUMER、XTRIM

說明

不支援同步PUBLISH命令。
對於通過EVAL或者EVALSHA調用Lua指令碼，在增量資料同步時，由於目標端在執行指令碼時不會明確返回執行結果，DTS無法確保該類型指令碼能夠執行成功。
對於List，由於DTS在調用sync或psync進行重傳時，不會對目標端已有的資料進行清空，可能導致出現重複資料。

資料庫帳號的許可權要求

資料庫	許可權及授權方式
源雲資料庫Tair（相容Redis）執行個體	讀許可權，關於授權方式，請參見建立與管理帳號。
目標雲資料庫Tair（相容Redis）執行個體	讀寫權限，關於授權方式，請參見建立與管理帳號。

操作步驟

進入目標地區的同步工作清單頁面（二選一）。
通過DTS控制台進入
1. 登入Data Transmission Service控制台。
2. 在左側導覽列，單擊資料同步。
3. 在頁面左上方，選擇同步執行個體所屬地區。
通過DMS控制台進入
說明
實際操作可能會因DMS的模式和布局不同，而有所差異。更多資訊，請參見極簡模式控制台和自訂DMS介面布局與樣式。
1. 登入Data Management服務。
2. 在頂部功能表列中，選擇整合與開發 > 資料轉送（DTS） > 資料同步。
3. 在同步任務右側，選擇同步執行個體所屬地區。
單擊創建任務，進入任務配置頁面。
可選：在頁面右上方，單擊試用新版配置頁。
說明
- 若您已進入新版配置頁（頁面右上方的按鈕為返回舊版配置頁），則無需執行此操作。
- 新版配置頁和舊版配置頁部分參數有差異，建議使用新版配置頁。

配置源庫及目標庫資訊。

類別	配置	說明
無	任務名稱	DTS會自動產生一個任務名稱，建議配置具有業務意義的名稱（無唯一性要求），便於後續識別。
源庫資訊	選擇已有串連資訊	您可以按實際需求，選擇是否使用已有資料庫執行個體。如使用已有執行個體，下方資料庫資訊將自動填入，您無需重複輸入。如不使用已有執行個體，您需要配置下方的資料庫資訊。說明您可以在資料連線管理頁面或新版配置頁面，將資料庫錄入DTS。更多資訊，請參見資料連線管理。 DMS控制台的配置項為選擇DMS資料庫執行個體，您可以單擊新增DMS資料庫執行個體或在控制台首頁將資料庫錄入DMS。更多資訊，請參見雲資料庫錄入和他雲/自建資料庫錄入。
	資料庫類型	選擇Tair/Redis。
	接入方式	選擇雲執行個體。
	執行個體地區	選擇源雲資料庫Tair（相容Redis）執行個體所屬的地區。
	是否跨阿里雲帳號	本樣本為同一阿里雲帳號間的同步，選擇不跨帳號。
	執行個體ID	選擇源雲資料庫Tair（相容Redis）執行個體的ID。
	認證方式	請根據實際情況選擇密碼登錄或免密登錄，本樣本選擇密碼登錄。說明若您選擇免密登錄，請確保Redis資料庫已開啟免密訪問功能。雲資料庫Tair（相容Redis）執行個體開啟免密訪問的方法，請參見開啟專用網路免密訪問。
	資料庫密碼	填入串連源雲資料庫Tair（相容Redis）執行個體的資料庫帳號密碼。帳號許可權，請參見資料庫帳號的許可權要求。說明資料庫密碼格式為<user>:<password>。例如，Redis執行個體自訂的使用者名稱為admin，密碼為Rp829dlwa，則此處填入的資料庫密碼為admin:Rp829dlwa。
	串連方式	請根據實際情況選擇非加密串連或SSL安全連線。說明若為自建Redis（接入方式不是雲執行個體），且選擇了SSL安全連線，您還需要上傳CA 憑證並填寫CA 密鑰。
目標庫資訊	選擇已有串連資訊	您可以按實際需求，選擇是否使用已有資料庫執行個體。如使用已有執行個體，下方資料庫資訊將自動填入，您無需重複輸入。如不使用已有執行個體，您需要配置下方的資料庫資訊。說明您可以在資料連線管理頁面或新版配置頁面，將資料庫錄入DTS。更多資訊，請參見資料連線管理。 DMS控制台的配置項為選擇DMS資料庫執行個體，您可以單擊新增DMS資料庫執行個體或在控制台首頁將資料庫錄入DMS。更多資訊，請參見雲資料庫錄入和他雲/自建資料庫錄入。
	資料庫類型	選擇Tair/Redis。
	接入方式	選擇雲執行個體。
	執行個體地區	選擇目標雲資料庫Tair（相容Redis）執行個體所屬的地區。
	是否跨阿里雲帳號	本樣本為同一阿里雲帳號間的同步，選擇不跨帳號。
	執行個體ID	選擇目標雲資料庫Tair（相容Redis）執行個體的ID。
	認證方式	請根據實際情況選擇密碼登錄或免密登錄，本樣本選擇密碼登錄。說明若您選擇免密登錄，請確保Redis資料庫已開啟免密訪問功能。雲資料庫Tair（相容Redis）執行個體開啟免密訪問的方法，請參見開啟專用網路免密訪問。
	資料庫密碼	填入串連目標雲資料庫Tair（相容Redis）執行個體的資料庫密碼。帳號許可權，請參見資料庫帳號的許可權要求。說明資料庫密碼格式為<user>:<password>。例如，Redis執行個體自訂的使用者名稱為admin，密碼為Rp829dlwa，則此處填入的資料庫密碼為admin:Rp829dlwa。
	串連方式	請根據實際情況選擇非加密串連或SSL安全連線。說明若為自建Redis（接入方式不是雲執行個體），且選擇了SSL安全連線，您還需要上傳CA 憑證並填寫CA 密鑰。

配置完成後，在頁面下方單擊測試連接以進行下一步。
說明
- 請確保DTS服務的IP位址區段能夠被自動或手動添加至源庫和目標庫的安全設定中，以允許DTS伺服器的訪問。更多資訊，請參見添加DTS伺服器的IP位址區段。
- 若源庫或目標庫為自建資料庫（接入方式不是雲執行個體），則還需要在彈出的DTS伺服器訪問授權對話方塊單擊測試連接。

配置任務對象。

在對象配置頁面，配置待同步的對象。

配置	說明
同步類型	固定選中增量同步處理或全量同步 + 增量同步處理。說明固定選中增量同步處理的DTS執行個體，建議您同時選中全量同步。
同步拓撲	選擇單向同步。說明僅當源和目標執行個體均為Tair（企業版）時，才有此配置項。
目標已存在表的處理模式	預檢查並報錯攔截：檢查目標端是否為空白。如果待同步的目標端為空白，則通過該檢查專案；如果不為空白，則在預檢查階段提示錯誤，資料同步作業不會被啟動。忽略報錯並繼續執行：跳過目標庫對象數據存在性檢查的檢查項。警告選擇為忽略報錯並繼續執行後，如果在同步過程中遇到目標端的Key與源端中的Key相同，會將源端的資料覆蓋寫入目標端中，從而可能會導致目標端原有的資料丟失，請謹慎選擇。
源庫對象	在源庫對象框中單擊待同步對象，然後單擊將其移動至已選擇對象框。說明同步對象的選擇粒度為庫，暫不支援Key粒度的選擇。
已選擇對象	若您需要指定接收資料的庫（DB 0~DB 255）或通過首碼篩選待同步的資料，可以使用映射或過濾功能。在已選擇對象框中按右鍵待同步的庫，然後在彈出的編輯Schema對話方塊中進行配置。更多資訊，請參見庫表列名映射和設定過濾條件。說明不支援批量映射。

單擊下一步高級配置，進行進階參數配置。

配置	說明
選擇調度該任務的專屬叢集	DTS預設將任務調度到共用叢集上，您無需選擇。若您希望任務更加穩定，可以購買專屬叢集來運行DTS同步任務。更多資訊，請參見什麼是DTS專屬叢集。
源庫、目標庫無法串連後的重試時間	在同步任務啟動後，若源庫或目標庫串連失敗則DTS會報錯，並會立即進行持續的重試串連，預設持續重試時間為720分鐘，您也可以在取值範圍（10~1440分鐘）內自訂重試時間，建議設定30分鐘以上。如果DTS在設定的重試時間內重新串連上源庫、目標庫，同步任務將自動回復。否則，同步任務將會失敗。說明針對同源或者同目標的多個DTS執行個體，如DTS執行個體A和DTS執行個體B，設定網路重試時間時A設定30分鐘，B設定60分鐘，則重試時間以低的30分鐘為準。由於串連重試期間，DTS將收取任務運行費用，建議您根據業務需要自訂重試時間，或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。
源庫、目標庫出現其他問題後的重試時間	在同步任務啟動後，若源庫或目標庫出現非串連性的其他問題（如DDL或DML執行異常），則DTS會報錯並會立即進行持續的重試操作，預設持續重試時間為10分鐘，您也可以在取值範圍（1~1440分鐘）內自訂重試時間，建議設定10分鐘以上。如果DTS在設定的重試時間內相關操作執行成功，同步任務將自動回復。否則，同步任務將會失敗。重要源庫、目標庫出現其他問題後的重試時間的值需要小於源庫、目標庫無法串連後的重試時間的值。
是否限制全量遷移速率	在全量同步階段，DTS將佔用源庫和目標庫一定的讀寫資源，可能會導致資料庫的負載上升。您可以根據實際情況，選擇是否對全量同步任務進行限速設定（設定每秒查詢源庫的速率QPS、每秒全量遷移的行數RPS和每秒全量遷移的數據量(MB)BPS），以緩解目標庫的壓力。說明僅當同步類型包含全量同步時，才有此配置項。
是否限制增量同步處理速率	您也可以根據實際情況，選擇是否對增量同步處理任務進行限速設定（設定每秒增量同步處理的行數RPS和每秒增量同步處理的數據量(MB)BPS），以緩解目標庫的壓力。
環境標籤	您可以根據實際情況，選擇用於標識執行個體的環境標籤。本樣本無需選擇。
延長目標庫key的到期時間	設定源庫中的key同步到目標庫時額外延長的到期時間。為保障資料的一致性，如有使用到（包括但不限於）如下命令，都建議設定延長key的到期時間。說明在包含分布式鎖的情境中，可能會導致分布式鎖無法及時釋放。 `EXPIRE key seconds PEXPIRE key milliseconds EXPIREAT key timestamp PEXPIREAT key timestampMs`
配置ETL功能	選擇是否配置ETL功能。關於ETL的更多資訊，請參見什麼是ETL。是：配置ETL功能，並在文字框中填寫資料處理語句，詳情請參見在DTS遷移或同步任務中配置ETL。否：不配置ETL功能。

單擊下一步資料校正，進行資料校正任務配置。
若您需要使用資料校正功能，配置方法請參見配置資料校正。

儲存任務並進行預檢查。
- 若您需要查看調用API介面配置該執行個體時的參數資訊，請將滑鼠游標移動至下一步儲存任務並預檢查按鈕上，然後單擊氣泡中的預覽OpenAPI參數。
- 若您無需查看或已完成查看API參數，請單擊頁面下方的下一步儲存任務並預檢查。
說明
- 在同步作業正式啟動之前，會先進行預檢查。只有預檢查通過後，才能成功啟動同步作業。
- 如果預檢查失敗，請單擊失敗檢查項後的查看詳情，並根據提示修複後重新進行預檢查。
- 如果預檢查產生警告：
  對於不可以忽略的檢查項，請單擊失敗檢查項後的查看詳情，並根據提示修複後重新進行預檢查。
  對於可以忽略無需修複的檢查項，您可以依次單擊點擊確認警示詳情、確認屏蔽、確定、重新進行預檢查，跳過警示檢查項重新進行預檢查。如果選擇屏蔽警示檢查項，可能會導致資料不一致等問題，給業務帶來風險。

購買執行個體。

預檢查通過率顯示為100%時，單擊下一步購買。

在購買頁面，選擇資料同步執行個體的計費方式、鏈路規格，詳細說明請參見下表。

類別	參數	說明
資訊配置	計費方式	預付費（訂用帳戶）：在建立執行個體時支付費用。適合長期需求，價格比隨用隨付更實惠，且購買時間長度越長，折扣越多。後付費（隨用隨付）：按小時計費。適合短期需求，用完可立即釋放執行個體，節省費用。
	資源群組配置	執行個體所屬的資源群組，預設為default resource group。更多資訊，請參見什麼是資源管理。
	鏈路規格	DTS為您提供了不同效能的同步規格，同步鏈路規格的不同會影響同步速率，您可以根據業務情境進行選擇。更多資訊，請參見資料同步鏈路規格說明。
	訂購時間長度	在預付費模式下，選擇訂用帳戶執行個體的時間長度和數量，包月可選擇1~9個月，包年可選擇1年、2年、3年和5年。說明該選項僅在付費類型為預付費時出現。

配置完成後，閱讀並勾選《資料轉送（隨用隨付）服務條款》。
單擊購買並啟動，並在彈出的確認對話方塊，單擊確定。
您可在資料同步介面查看具體任務進度。
說明
若您配置的DTS執行個體同時包含全量任務和增量任務（同步類型同時包含全量同步和增量同步處理），在同步工作清單頁面會合并顯示為增量同步處理。