Data Transmission Service支援兩個MySQL資料庫之間的資料同步,本文以RDS MySQL執行個體之間的單向同步為例,介紹配置流程。
前提條件
資料同步的源RDS執行個體和目標RDS執行個體已存在,詳情請參見建立RDS執行個體。
源RDS執行個體和目標RDS執行個體的資料庫類型為MySQL。
注意事項
DTS在執行全量資料初始化時將佔用源庫和目標庫一定的讀寫資源,可能會導致資料庫的負載上升,在資料庫效能較差、規格較低或業務量較大的情況下(例如源庫有大量慢SQL、存在無主鍵表或目標庫存在死結等),可能會加重資料庫壓力,甚至導致資料庫服務不可用。因此您需要在執行資料同步前評估源庫和目標庫的效能,同時建議您在業務低峰期執行資料同步(例如源庫和目標庫的CPU負載在30%以下)。
資料同步時,請勿對源庫的同步對象使用gh-ost或pt-online-schema-change等類似工具執行線上DDL變更,否則會導致同步失敗。
如果除DTS以外的資料沒有寫入目標庫,您可以使用Data Management(Data Management)來執行線上DDL變更,詳情請參見不鎖表結構變更。
如果源庫中待遷移的表沒有主鍵或唯一約束,且所有欄位沒有唯一性,可能會導致目標資料庫中出現重複資料。
全量初始化過程中,並發INSERT會導致目標執行個體的表片段,全量初始化完成後,目標執行個體的資料表空間比源執行個體的資料表空間大。
目標庫為RDS MySQL執行個體時(除5.7和8.0版本外),DTS會在目標庫建立一個有寫入許可權且僅供DTS內部使用的資料同步帳號dtssyncwriter。
費用說明
同步類型 | 鏈路配置費用 |
庫表結構同步和全量資料同步 | 不收費。 |
增量資料同步 | 收費,詳情請參見計費概述。 |
支援的同步架構
一對一單向同步
一對多單向同步
級聯單向同步
多對一單向同步
關於各類同步架構的介紹及注意事項,請參見資料同步拓撲介紹。
支援同步的SQL操作
操作類型 | SQL動作陳述式 |
DML | INSERT、UPDATE、DELETE、REPLACE |
DDL |
|
功能限制
不相容觸發器
當同步對象為整個庫,且庫中的觸發器(TRIGGER)會更新庫內某個表時,可能導致源和目標庫的資料不一致。相關解決方案請參見源庫存在觸發器時如何配置同步或遷移作業。
RENAME TABLE限制
RENAME TABLE操作可能導致同步資料不一致。例如同步對象只包含表A,如果同步過程中源執行個體將表A重新命名為表B,那麼表B將不會被同步到目標庫。為避免該問題,您可以在資料同步配置時,選擇同步表A和表B所在的整個資料庫作為同步對象。
操作步驟
購買資料同步執行個體,詳情請參見購買資料同步任務。
說明購買時,選擇源執行個體和目標執行個體均選擇為MySQL,並選擇同步拓撲為單向同步。
登入資料轉送控制台。
在左側導覽列,單擊資料同步。
在同步作業列表頁面頂部,選擇資料同步執行個體所屬地區。
定位至已購買的資料同步執行個體,單擊配置同步鏈路。
配置同步通道的源執行個體及目標執行個體資訊。
類別
配置
說明
無
同步作業名稱
DTS會自動產生一個同步作業名稱,建議配置具有業務意義的名稱(無唯一性要求),便於後續識別。
源執行個體資訊
執行個體類型
選擇RDS執行個體。
執行個體地區
購買資料同步執行個體時選擇的源執行個體地區資訊,不可變更。
執行個體ID
選擇作為資料同步源的RDS執行個體ID。
資料庫帳號
填入源RDS的資料庫帳號。
說明當源RDS執行個體的資料庫類型為MySQL 5.5或MySQL 5.6時,無需配置資料庫帳號和資料庫密碼。
資料庫密碼
填入資料庫帳號對應的密碼。
串連方式
根據需求選擇非加密串連或SSL安全連線。如果設定為SSL安全連線,您需要提前開啟RDS執行個體的SSL加密功能,詳情請參見設定SSL加密。
重要目前僅中國內地及中國香港地區支援設定串連方式。
目標執行個體資訊
執行個體類型
選擇RDS執行個體。
執行個體地區
購買資料同步執行個體時選擇的目標執行個體地區資訊,不可變更。
執行個體ID
選擇作為資料同步目標的RDS執行個體ID。
資料庫帳號
填入目標RDS的資料庫帳號。
說明當目標RDS執行個體的資料庫類型為MySQL 5.5或MySQL 5.6時,無需配置資料庫帳號和資料庫密碼。
資料庫密碼
填入資料庫帳號對應的密碼。
串連方式
根據需求選擇非加密串連或SSL安全連線。如果設定為SSL安全連線,您需要提前開啟RDS執行個體的SSL加密功能,詳情請參見設定SSL加密。
重要目前僅中國內地及中國香港地區支援設定串連方式。
單擊頁面右下角的授權白名單並進入下一步。
如果源或目標資料庫是阿里雲資料庫執行個體(例如RDS MySQL、ApsaraDB for MongoDB等),DTS會自動將對應地區DTS服務的IP地址添加到阿里雲資料庫執行個體的白名單中;如果源或目標資料庫是ECS上的自建資料庫,DTS會自動將對應地區DTS服務的IP地址添到ECS的安全規則中,您還需確保自建資料庫沒有限制ECS的訪問(若資料庫是叢集部署在多個ECS執行個體,您需要手動將DTS服務對應地區的IP地址添到其餘每個ECS的安全規則中);如果源或目標資料庫是IDC自建資料庫或其他雲資料庫,則需要您手動添加對應地區DTS服務的IP地址,以允許來自DTS伺服器的訪問。DTS服務的IP地址,請參見DTS伺服器的IP位址區段。
警告DTS自動添加或您手動添加DTS服務的公網IP位址區段可能會存在安全風險,一旦使用本產品代表您已理解和確認其中可能存在的安全風險,並且需要您做好基本的安全防護,包括但不限於加強帳號密碼強度防範、限制各網段開放的連接埠號碼、內部各API使用鑒權方式通訊、定期檢查並限制不需要的網段,或者使用通過內網(專線/VPN網關/智能網關)的方式接入。
配置同步策略及對象資訊。
設定項目
配置說明
選擇同步對象
在源庫對象框中單擊待同步的對象,然後單擊表徵圖將其移動至已選擇對象框。
同步對象的選擇粒度為庫、表。
說明如果選擇整個庫作為同步對象,該庫中所有對象的結構變更操作都會同步至目標庫。
預設情況下,同步對象在目標庫中的名稱與源庫保持一致。如果您需要改變同步對象在目標庫中的名稱,需要使用對象名映射功能,詳情請參見設定同步對象在目標執行個體中的名稱。
映射名稱更改
如需更改同步對象在目標執行個體中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。
源表DMS_ONLINE_DDL過程中是否複製暫存資料表到目標庫
如源庫使用Data Management(Data Management)執行Online DDL變更,您可以選擇是否同步Online DDL變更產生的暫存資料表資料。
是:同步Online DDL變更產生的暫存資料表資料。
說明Online DDL變更產生的暫存資料表資料過大,可能會導致同步任務延遲。
否:不同步Online DDL變更產生的暫存資料表資料,只同步源庫的原始DDL資料。
說明該方案會導致目標庫鎖表。
源、目標庫無法串連重試時間
當源、目標庫無法串連時,DTS預設重試720分鐘(即12小時),您也可以自訂重試時間。如果DTS在設定的時間內重新串連上源、目標庫,同步任務將自動回復。否則,同步任務將失敗。
說明由於串連重試期間,DTS將收取任務運行費用,建議您根據業務需要自訂重試時間,或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。
上述配置完成後,單擊頁面右下角的下一步。
配置同步初始化的進階配置資訊。
說明此步驟會將源執行個體中已經存在同步對象的結構及資料在目標執行個體中初始化,作為後續增量同步處理資料的基準資料。
同步初始化類型細分為:結構初始化,全量資料初始化。預設情況下,需要選中結構初始化和全量資料初始化。
上述配置完成後,單擊頁面右下角的預檢查並啟動。
說明在同步作業正式啟動之前,會先進行預檢查。只有預檢查通過後,才能成功啟動同步作業。
如果預檢查失敗,單擊具體檢查項後的,查看失敗詳情。
您可以根據提示修複後重新進行預檢查。
如無需修複警示檢測項,您也可以選擇確認屏蔽、忽略警示項並重新進行預檢查,跳過警示檢測項重新進行預檢查。
在預檢查對話方塊中顯示預檢查通過後,關閉預檢查對話方塊,同步作業將正式開始。
等待同步作業的鏈路初始化完成,直至處於同步中狀態。
您可以在資料同步頁面,查看資料同步作業的狀態。