跨雲阿里雲帳號單向同步Redis的資料 - Tair (Redis® OSS-Compatible)

Data Transmission Service支援跨雲帳號單向同步，適用於雲帳號間的資源遷移或合并、業務架構調整等多種應用情境。

前提條件

已建立儲存空間大於源雲資料庫Tair（相容Redis）已使用儲存空間的目標雲資料庫Tair（相容Redis）執行個體。

說明

支援的版本，請參見同步方案概覽。

背景資訊

現有兩個Redis執行個體分別屬於不同的阿里雲帳號，由於業務需求，需要將雲帳號A下的Redis執行個體中的業務資料資訊同步至雲帳號B下的Redis執行個體中（源端跨帳號的同步執行個體）。

DTS支援的跨雲帳號單向同步雲資料庫Tair（相容Redis）需要您按照如下步驟完成同步任務的配置。

步驟	說明
1、使用源庫所屬的阿里雲帳號登入阿里雲控制台，完成RAM角色授權操作，詳情請參見準備工作。	配置RAM角色，將目標庫所屬的雲帳號設定為授信雲帳號，並授權其訪問本帳號的雲資源。
2、使用目標庫所屬的阿里雲帳號（主帳號）登入阿里雲控制台，完成資料同步任務配置，詳情請參見操作步驟。	DTS支援跨雲帳號直接讀取源Redis執行個體的資訊。

注意事項

類型	說明
源庫限制	為保障同步品質，DTS會在源庫中插入一個首碼為DTS_REDIS_TIMESTAMP_HEARTBEAT的Key用於記錄更新時間點，如果源庫為叢集架構，DTS會在各個shard上均插入該Key。同步過程中會過濾該Key，同步任務結束，該Key就會到期。如果源庫為唯讀執行個體或者DTS帳號沒有寫（SETEX）許可權，上報的延遲可能不準確。為保障同步鏈路穩定性，建議將設定檔redis.conf中`repl-backlog-size`參數的值適當調大。源庫需開啟AOF日誌。如果源庫中的某些Key使用了到期（expire）策略，由於可能存在Key已到期但未被及時刪除的情況，所以在目標庫中查看到的Key數量（例如通過info命令查看）會比源庫的Key數量少。源庫單機版Redis同步到目標庫叢集版Redis的操作限制：由於叢集cluster只允許單個命令操作單個slot，若在源庫執行多Key操作時，Key不在同一個slot或涉及多個slot，則會出現以下報錯： `CROSSSLOT Keys in request don't hash to the same slot` 建議在DTS同步過程中僅執行單Key操作，以免導致鏈路中斷。源庫為儲存介質是持久記憶體的Tair執行個體時，需要開啟appendonly參數。
其他限制	若源執行個體為自建Redis，則Slave和Master之間的複製逾時時間參數repl-timeout建議使用`config set repl-timeout 600`命令設定為600秒。若來源資料庫資料量比較大，可以適當增大repl-timeout參數的值。同步期間，如源Redis發生擴縮容（如增加或者減少分區）、規格變更配置（如擴大記憶體），則您需重新設定任務。且為保障資料一致性，建議重新設定任務前，先清空已同步至目標Redis的資料。若源或目標執行個體為自建Redis，且在同步期間該自建Redis的串連地址發生變化，則需要重新設定任務。建議源和目標庫版本保持一致，或者從低版本同步到高版本以保障相容性。若為高版本同步至低版本，可能存在資料庫相容性問題。全量資料初始化時DTS將佔用源庫和目標庫一定的讀寫資源，可能會導致資料庫的負載上升。建議在執行資料同步前評估源庫和目標庫的效能，同時建議業務低峰期執行資料同步。在DTS同步期間，不允許有除DTS外的資料寫入目標庫，否則會導致源庫與目標庫資料不一致。若目標執行個體的架構類型為叢集版且某一個分區達到了記憶體上限，或目標執行個體的儲存空間不足時，DTS任務會因記憶體溢出（Out of Memory）而失敗。若目標資料庫記憶體不足，觸發資料逐出時，由於雲資料庫 Tair（相容 Redis）的預設資料逐出策略（maxmemory-policy）為volatile-lru，會導致目標庫與源庫資料不一致的情況，但不會影響任務的正常運行。為避免該情況發生，建議將目標庫的資料逐出原則設定為noeviction，當目標庫記憶體不足時，資料會寫入失敗，同時任務也會失敗，但目標庫不會因為資料逐出而遺失資料。說明關於資料逐出策略詳情，請參見Redis資料逐出策略介紹。若源或目標執行個體已開啟透明資料加密TDE功能，則暫不支援通過DTS同步資料。若在資料同步過程中出現包括但不限於以下情況，可能會使全量資料重新同步至目標端，從而導致資料不一致。源端或目標端Redis發生串連閃斷，導致斷點續傳失敗。源端或目標端Redis發生主備切換或故障切換。源端或目標端Redis的串連地址發生變化。修改DTS執行個體的同步對象。若雲資料庫Tair（相容Redis）執行個體已開啟TLS（Transport Layer Security）加密功能，則必須以SSL安全連線的方式接入到DTS（不支援TLSv1.3）。當前暫不支援已開啟SSL的雲資料庫Tair（相容Redis）執行個體，以雲執行個體的方式接入DTS。若執行個體運行失敗，DTS技術支援人員將在8小時內嘗試恢複該執行個體。在恢複失敗執行個體的過程中，可能會對該執行個體進行重啟、調整參數等操作。說明在調整參數時，僅會修改執行個體的參數，不會對資料庫中的參數進行修改。可能修改的參數，包括但不限於修改執行個體參數中的參數。

費用說明

同步類型	鏈路配置費用
庫表結構同步和全量資料同步	不收費。
增量資料同步	收費，詳情請參見計費概述。

增量資料同步支援的命令

版本類型	命令
雲資料庫Tair（相容Redis）社區版	APPEND BITOP、BLPOP、BRPOP、BRPOPLPUSH DECR、DECRBY、DEL EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT GEOADD、GETSET HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX INCR、INCRBY、INCRBYFLOAT LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM MOVE、MSET、MSETNX、MULTI PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX RENAME、RENAMENX、RESTORE、RPOP、RPOPLPUSH、RPUSH、RPUSHX SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE SWAPDB、UNLINK（僅當源端Redis執行個體的版本為4.0時支援） XADD、XCLAIM、XDEL、XAUTOCLAIM、XGROUP CREATECONSUMER、XTRIM
雲資料庫Tair（相容Redis）企業版	APPEND BITOP、BLPOP、BRPOP、BRPOPLPUSH DECR、DECRBY、DEL EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT GEOADD、GETSET HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX INCR、INCRBY、INCRBYFLOAT LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM MOVE、MSET、MSETNX、MULTI PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX RENAME、RENAMENX、RPOP、RPOPLPUSH、RPUSH、RPUSHX SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE UNLINK、ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE XADD、XCLAIM、XDEL、XAUTOCLAIM、XGROUP CREATECONSUMER、XTRIM

說明

不支援同步PUBLISH命令。
對於通過EVAL或者EVALSHA調用Lua指令碼，在增量資料同步時，由於目標端在執行指令碼時不會明確返回執行結果，DTS無法確保該類型指令碼能夠執行成功。
對於List，由於DTS在調用sync或psync進行重傳時，不會對目標端已有的資料進行清空，可能導致出現重複資料。

準備工作

使用源Redis執行個體所屬的阿里雲帳號（主帳號）登入阿里雲控制台，建立RAM角色，並授予目標Redis執行個體所屬的阿里雲帳號（主帳號）訪問源Redis執行個體的許可權。更多資訊，請參見跨阿里雲帳號任務如何配置RAM授權。

操作步驟

使用目標執行個體所屬的阿里雲帳號（主帳號），進入同步任務的列表頁面。
通過DTS控制台進入
1. 登入Data Transmission Service控制台。
2. 在左側導覽列，單擊資料同步。
3. 在頁面左上方，選擇同步執行個體所屬地區。
通過DMS控制台進入
說明
實際操作可能會因DMS的模式和布局不同，而有所差異。更多資訊，請參見極簡模式控制台和自訂DMS介面布局與樣式。
1. 登入Data Management服務。
2. 在頂部功能表列中，選擇整合與開發 > 資料轉送（DTS） > 資料同步。
3. 在同步任務右側，選擇同步執行個體所屬地區。
單擊創建任務，進入任務配置頁面。
可選：在頁面右上方，單擊試用新版配置頁。
說明
- 若您已進入新版配置頁（頁面右上方的按鈕為返回舊版配置頁），則無需執行此操作。
- 新版配置頁和舊版配置頁部分參數有差異，建議使用新版配置頁。

配置源庫及目標庫資訊。

警告

選擇源和目標執行個體後，建議您仔細閱讀頁面上方顯示的使用限制，否則可能會導致任務失敗或資料不一致。

類別	配置	說明
無	任務名稱	DTS會自動產生一個任務名稱，建議配置具有業務意義的名稱（無唯一性要求），便於後續識別。
源庫資訊	選擇已有串連資訊	您可以按實際需求，選擇是否使用已有資料庫執行個體。如使用已有執行個體，下方資料庫資訊將自動填入，您無需重複輸入。如不使用已有執行個體，您需要配置下方的資料庫資訊。說明您可以在資料連線管理頁面或新版配置頁面，將資料庫錄入DTS。更多資訊，請參見資料連線管理。 DMS控制台的配置項為選擇DMS資料庫執行個體，您可以單擊新增DMS資料庫執行個體或在控制台首頁將資料庫錄入DMS。更多資訊，請參見雲資料庫錄入和他雲/自建資料庫錄入。
	資料庫類型	選擇Tair/Redis。
	接入方式	選擇雲執行個體。
	執行個體地區	選擇源雲資料庫Tair（相容Redis）執行個體所屬的地區。
	是否跨阿里雲帳號	選擇跨帳號。說明該功能支援跨網站互連，即中國站帳號和國際站帳號之間可以實現互連。
	跨阿里雲帳號	填入源雲資料庫Tair（相容Redis）執行個體所屬的阿里雲帳號（主帳號）的ID。
	跨阿里雲帳號角色名稱	填入準備工作中建立的RAM角色名稱。
	執行個體ID	選擇源雲資料庫Tair（相容Redis）執行個體的ID。
	認證方式	請根據實際情況選擇密碼登錄或免密登錄，本樣本選擇密碼登錄。說明若您選擇免密登錄，請確保Redis資料庫已開啟免密訪問功能。雲資料庫Tair（相容Redis）執行個體開啟免密訪問的方法，請參見開啟專用網路免密訪問。
	資料庫密碼	填入源雲資料庫Tair（相容Redis）的帳號和密碼，根據選取的帳號（需要具備讀許可權）填寫密碼，如果忘記密碼，您可以重設密碼，具體操作請參見修改或重設密碼。預設帳號（即以執行個體ID命名的帳號）：直接填寫密碼即可。新建立的帳號：密碼格式為`<自訂帳號>:<密碼>`，例如：testaccount:Test1234。說明非必填項，如果沒有設定密碼可以不填。
	串連方式	請根據實際情況選擇非加密串連或SSL安全連線。說明若為自建Redis（接入方式不是雲執行個體），且選擇了SSL安全連線，您還需要上傳CA 憑證並填寫CA 密鑰。
目標庫資訊	選擇已有串連資訊	您可以按實際需求，選擇是否使用已有資料庫執行個體。如使用已有執行個體，下方資料庫資訊將自動填入，您無需重複輸入。如不使用已有執行個體，您需要配置下方的資料庫資訊。說明您可以在資料連線管理頁面或新版配置頁面，將資料庫錄入DTS。更多資訊，請參見資料連線管理。 DMS控制台的配置項為選擇DMS資料庫執行個體，您可以單擊新增DMS資料庫執行個體或在控制台首頁將資料庫錄入DMS。更多資訊，請參見雲資料庫錄入和他雲/自建資料庫錄入。
	資料庫類型	選擇Tair/Redis。
	接入方式	選擇雲執行個體。
	執行個體地區	選擇目標雲資料庫Tair（相容Redis）執行個體所屬地區。
	是否跨阿里雲帳號	本樣本為源端跨帳號的同步執行個體，此處選擇不跨帳號。
	執行個體ID	選擇目標雲資料庫Tair（相容Redis）執行個體的ID。
	認證方式	請根據實際情況選擇密碼登錄或免密登錄，本樣本選擇密碼登錄。說明若您選擇免密登錄，請確保Redis資料庫已開啟免密訪問功能。雲資料庫Tair（相容Redis）執行個體開啟免密訪問的方法，請參見開啟專用網路免密訪問。
	資料庫密碼	填入目標雲資料庫Tair（相容Redis）執行個體的帳號和密碼，根據選取的帳號（需具備讀寫權限）填寫密碼，如果忘記密碼，您可以重設密碼，具體操作請參見修改或重設密碼。預設帳號（即以執行個體ID命名的帳號）：直接填寫密碼即可。新建立的帳號：密碼格式為`<自訂帳號>:<密碼>`，例如：testaccount:Test1234。
	串連方式	請根據實際情況選擇非加密串連或SSL安全連線。說明若為自建Redis（接入方式不是雲執行個體），且選擇了SSL安全連線，您還需要上傳CA 憑證並填寫CA 密鑰。

配置完成後，在頁面下方單擊測試連接以進行下一步。
說明
- 請確保DTS服務的IP位址區段能夠被自動或手動添加至源庫和目標庫的安全設定中，以允許DTS伺服器的訪問。更多資訊，請參見添加DTS伺服器的IP位址區段。
- 若源庫或目標庫為自建資料庫（接入方式不是雲執行個體），則還需要在彈出的DTS伺服器訪問授權對話方塊單擊測試連接。

配置任務對象。

在對象配置頁面，配置待同步的對象。

配置	說明
同步類型	固定選中增量同步處理或全量同步 + 增量同步處理。固定選中增量同步處理的DTS執行個體，建議您同時選中全量同步。預檢查完成後，DTS會將源執行個體中待同步對象的全量資料在目的地組群中初始化，作為後續增量同步處理資料的基準資料。
同步拓撲	選擇單向同步。說明僅當源和目標執行個體均為Tair（企業版）時，才有此配置項。
目標已存在表的處理模式	預檢查並報錯攔截：檢查目標端是否為空白。如果待同步的目標端為空白，則通過該檢查專案；如果不為空白，則在預檢查階段提示錯誤，資料同步作業不會被啟動。忽略報錯並繼續執行：跳過目標庫對象數據存在性檢查的檢查項。警告選擇為忽略報錯並繼續執行後，如果在同步過程中遇到目標端的Key與源端中的Key相同，會將源端的資料覆蓋寫入目標端中，從而可能會導致目標端原有的資料丟失，請謹慎選擇。
源庫對象	在源庫對象框中單擊待同步對象，然後單擊將其移動至已選擇對象框。說明同步對象的選擇粒度為庫，暫不支援Key粒度的選擇。
已選擇對象	若您需要指定接收資料的庫（DB 0~DB 255）或通過首碼篩選待同步的資料，可以使用映射或過濾功能。在已選擇對象框中按右鍵待同步的庫，然後在彈出的編輯Schema對話方塊中進行配置。更多資訊，請參見庫表列名映射和設定過濾條件。說明不支援批量映射。

單擊下一步高級配置，進行進階參數配置。

配置	說明
選擇調度該任務的專屬叢集	DTS預設將任務調度到共用叢集上，您無需選擇。若您希望任務更加穩定，可以購買專屬叢集來運行DTS同步任務。更多資訊，請參見什麼是DTS專屬叢集。
源庫、目標庫無法串連後的重試時間	在同步任務啟動後，若源庫或目標庫串連失敗則DTS會報錯，並會立即進行持續的重試串連，預設持續重試時間為720分鐘，您也可以在取值範圍（10~1440分鐘）內自訂重試時間，建議設定30分鐘以上。如果DTS在設定的重試時間內重新串連上源庫、目標庫，同步任務將自動回復。否則，同步任務將會失敗。說明針對同源或者同目標的多個DTS執行個體，如DTS執行個體A和DTS執行個體B，設定網路重試時間時A設定30分鐘，B設定60分鐘，則重試時間以低的30分鐘為準。由於串連重試期間，DTS將收取任務運行費用，建議您根據業務需要自訂重試時間，或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。
源庫、目標庫出現其他問題後的重試時間	在同步任務啟動後，若源庫或目標庫出現非串連性的其他問題（如DDL或DML執行異常），則DTS會報錯並會立即進行持續的重試操作，預設持續重試時間為10分鐘，您也可以在取值範圍（1~1440分鐘）內自訂重試時間，建議設定10分鐘以上。如果DTS在設定的重試時間內相關操作執行成功，同步任務將自動回復。否則，同步任務將會失敗。重要源庫、目標庫出現其他問題後的重試時間的值需要小於源庫、目標庫無法串連後的重試時間的值。
是否限制全量遷移速率	在全量同步階段，DTS將佔用源庫和目標庫一定的讀寫資源，可能會導致資料庫的負載上升。您可以根據實際情況，選擇是否對全量同步任務進行限速設定（設定每秒查詢源庫的速率QPS、每秒全量遷移的行數RPS和每秒全量遷移的數據量(MB)BPS），以緩解目標庫的壓力。說明僅當同步類型包含全量同步時，才有此配置項。
是否限制增量同步處理速率	您也可以根據實際情況，選擇是否對增量同步處理任務進行限速設定（設定每秒增量同步處理的行數RPS和每秒增量同步處理的數據量(MB)BPS），以緩解目標庫的壓力。
延長目標庫key的到期時間	設定源庫中的key遷移到目標庫時額外延長的到期時間。為保障資料的一致性，如有使用到（包括但不限於）如下命令，都建議設定延長key的到期時間。說明在包含分布式鎖的情境中，可能會導致分布式鎖無法及時釋放。 `EXPIRE key seconds PEXPIRE key milliseconds EXPIREAT key timestamp PEXPIREAT key timestampMs`
環境標籤	您可以根據實際情況，選擇用於標識執行個體的環境標籤。本樣本無需選擇。
配置ETL功能	選擇是否配置ETL功能。關於ETL的更多資訊，請參見什麼是ETL。是：配置ETL功能，並在文字框中填寫資料處理語句，詳情請參見在DTS遷移或同步任務中配置ETL。否：不配置ETL功能。
監控警示	是否設定警示，當同步失敗或延遲超過閾值後，將通知警示連絡人。不設定：不設定警示。設定：設定警示，您還需要設定警示閾值和警示通知。更多資訊，請參見在配置任務過程中配置監控警示。

單擊下一步資料校正，進行資料校正任務配置。
若您需要使用資料校正功能，配置方法請參見配置資料校正。

儲存任務並進行預檢查。
- 若您需要查看調用API介面配置該執行個體時的參數資訊，請將滑鼠游標移動至下一步儲存任務並預檢查按鈕上，然後單擊氣泡中的預覽OpenAPI參數。
- 若您無需查看或已完成查看API參數，請單擊頁面下方的下一步儲存任務並預檢查。
說明
- 在同步作業正式啟動之前，會先進行預檢查。只有預檢查通過後，才能成功啟動同步作業。
- 如果預檢查失敗，請單擊失敗檢查項後的查看詳情，並根據提示修複後重新進行預檢查。
- 如果預檢查產生警告：
  對於不可以忽略的檢查項，請單擊失敗檢查項後的查看詳情，並根據提示修複後重新進行預檢查。
  對於可以忽略無需修複的檢查項，您可以依次單擊點擊確認警示詳情、確認屏蔽、確定、重新進行預檢查，跳過警示檢查項重新進行預檢查。如果選擇屏蔽警示檢查項，可能會導致資料不一致等問題，給業務帶來風險。

購買執行個體。

預檢查通過率顯示為100%時，單擊下一步購買。

在購買頁面，選擇資料同步執行個體的計費方式、鏈路規格，詳細說明請參見下表。

類別	參數	說明
資訊配置	計費方式	預付費（訂用帳戶）：在建立執行個體時支付費用。適合長期需求，價格比隨用隨付更實惠，且購買時間長度越長，折扣越多。後付費（隨用隨付）：按小時計費。適合短期需求，用完可立即釋放執行個體，節省費用。
	資源群組配置	執行個體所屬的資源群組，預設為default resource group。更多資訊，請參見什麼是資源管理。
	鏈路規格	DTS為您提供了不同效能的同步規格，同步鏈路規格的不同會影響同步速率，您可以根據業務情境進行選擇。更多資訊，請參見資料同步鏈路規格說明。
	訂購時間長度	在預付費模式下，選擇訂用帳戶執行個體的時間長度和數量，包月可選擇1~9個月，包年可選擇1年、2年、3年和5年。說明該選項僅在付費類型為預付費時出現。

配置完成後，閱讀並勾選《資料轉送（隨用隨付）服務條款》。
單擊購買並啟動，並在彈出的確認對話方塊，單擊確定。
您可在資料同步介面查看具體任務進度。
說明
若您配置的DTS執行個體同時包含全量任務和增量任務（同步類型同時包含全量同步和增量同步處理），在同步工作清單頁面會合并顯示為增量同步處理。