本文介紹如何使用Data Transmission Service (简称DTS),將RDS PPAS遷移至PolarDB PostgreSQL版(相容Oracle)叢集。DTS支援結構遷移、全量資料移轉以及增量資料移轉,同時使用這三種遷移類型可以實現在自建應用不停服的情況下,平滑地完成資料庫的遷移。
前提條件
- 已建立PolarDB PostgreSQL版(相容Oracle)叢集,詳情請參見建立PolarDB PostgreSQL版(相容Oracle)叢集。
- PolarDB PostgreSQL版(相容Oracle)叢集的儲存空間須大於RDS PPAS資料庫佔用的儲存空間。
- 若源RDS PPAS資料庫中的庫名稱、表名稱、欄位有大寫,在PolarDB PostgreSQL版(相容Oracle)叢集中建立庫、表、欄位時需要加上雙引號("")。
- 如需執行增量資料移轉,您需要為源RDS PPAS執行個體用於資料移轉的帳號開通superuser許可權。
注意事項
DTS在執行全量資料移轉時將佔用源庫和目標庫一定的讀寫資源,可能會導致資料庫的負載上升,在資料庫效能較差、規格較低或業務量較大的情況下(例如源庫有大量慢SQL、存在無主鍵表或目標庫存在死結等),可能會加重資料庫壓力,甚至導致資料庫服務不可用。因此您需要在執行資料移轉前評估源庫和目標庫的效能,同時建議您在業務低峰期執行資料移轉(例如源庫和目標庫的CPU負載在30%以下)。
如果源庫中待遷移的表沒有主鍵或唯一約束,且所有欄位沒有唯一性,可能會導致目標資料庫中出現重複資料。
- 一個資料移轉任務只能對一個資料庫進行資料移轉,如果有多個資料庫需要遷移,則需要為每個資料庫建立資料移轉任務。
- 對於遷移失敗的任務,DTS會觸發自動回復。當您需要將業務切換至目標執行個體,請務必先終止或釋放該任務,避免該任務被自動回復後,導致源端資料覆蓋目標執行個體的資料。
- 由於業務切換到目標端後,新寫入的Sequence不會按照源庫的Sequence最大值作為初始值去遞增,您需要在業務切換前,在源庫中查詢對應Sequence的最大值,然後在目標庫中將其作為對應Sequence的初始值。查詢源庫Sequence值的相關命令如下:
do language plpgsql $$ declare nsp name; rel name; val int8; begin for nsp,rel in select nspname,relname from pg_class t2 , pg_namespace t3 where t2.relnamespace=t3.oid and t2.relkind='S' loop execute format($_$select last_value from %I.%I$_$, nsp, rel) into val; raise notice '%', format($_$select setval('%I.%I'::regclass, %s);$_$, nsp, rel, val+1); end loop; end; $$;
- RDS PPAS遷移至PolarDB O叢集時,建議如下:
- PolarDB O叢集的規格大於或等於RDS PPAS規格,避免遷移後因PolarDB O的CPU和記憶體不足,導致慢SQL或記憶體溢出。推薦的PolarDB O規格,請參見RDS PPAS與推薦PoalrDB O規格對照表。
- 如果對遷移後的串連數、IOPS等有業務要求,請參考PolarDB O規格列表,選擇符合業務需求的PolarDB O規格。
- 應用串連時使用叢集地址,可實現自動讀寫分離,將讀請求流量分配到唯讀節點,降低PolarDB O執行個體負載。如何擷取叢集地址,請參見查看或申請串連地址。
RDS PPAS與推薦PoalrDB O規格對照表
建議PolarDB O叢集的規格大於或等於RDS PPAS規格,避免遷移後因PolarDB O的CPU和記憶體不足,導致慢SQL或記憶體溢出。推薦的PolarDB O規格如下:
RDS PPAS規格 | 推薦的PolarDB O規格 | ||
規格代碼 | CPU和記憶體 | 規格代碼 | CPU和記憶體 |
rds.ppas.t1.small | 1核 1GB | polar.o.x4.medium | 2核 8GB |
ppas.x4.small.2 | 1核 4GB | polar.o.x4.medium | 2核 8GB |
ppas.x4.medium.2 | 2核 8GB | polar.o.x4.medium | 2核 8GB |
ppas.x8.medium.2 | 2核 16GB | polar.o.x4.large | 4核 16GB |
ppas.x4.large.2 | 4核 16GB | polar.o.x4.large | 4核 16GB |
ppas.x8.large.2 | 4核 32GB | polar.o.x4.xlarge | 8核 32GB |
ppas.x4.xlarge.2 | 8核 32GB | polar.o.x4.xlarge | 8核 32GB |
ppas.x8.xlarge.2 | 8核 64GB | polar.o.x8.xlarge | 8核 64GB |
ppas.x4.2xlarge.2 | 16核 64GB | polar.o.x8.2xlarge | 16核 128GB |
ppas.x8.2xlarge.2 | 16核 128GB | polar.o.x8.2xlarge | 16核 128GB |
ppas.x4.4xlarge.2 | 32核 128GB | polar.o.x8.4xlarge | 32核 256GB |
ppas.x8.4xlarge.2 | 32核 256GB | polar.o.x8.4xlarge | 32核 256GB |
rds.ppas.st.h43 | 60核 470GB | polar.o.x8.8xlarge | 64核 512GB |
遷移類型說明
遷移類型 | 說明 |
結構遷移 | DTS將遷移對象的結構定義遷移到目標PolarDB叢集。目前支援的對象包括:表、視圖、同義字、觸發器(不相容)、預存程序、儲存函數、包、自訂類型。 重要 不相容觸發器。當遷移對象包含了觸發器可能導致資料不一致。 |
全量資料移轉 | DTS會將源庫中遷移對象的存量資料,全部遷移至目標PolarDB叢集。 重要 在結構遷移和全量資料移轉完成之前,請勿對遷移對象執行DDL操作,否則可能導致遷移失敗。 |
增量資料移轉 | DTS在全量資料移轉的基礎上輪詢並捕獲源庫產生的Redo Log,將源庫的累加式更新即時移轉到目標PolarDB叢集。目前支援僅支援同步DML操作(INSERT、UPDATE、DELETE),暫不支援同步DDL操作。 通過增量資料移轉可以實現在應用不停服的情況下,平滑地完成資料移轉。 |
費用說明
遷移類型 | 鏈路配置費用 | 公網流量費用 |
結構遷移和全量資料移轉 | 不收費。 | 通過公網將資料移轉出阿里雲時將收費,詳情請參見計費概述。 |
增量資料移轉 | 收費,詳情請參見計費概述。 |
資料庫帳號的許可權要求
登入待遷移的Oracle資料庫,建立用於採集資料的帳號並授權。
資料庫 | 結構遷移 | 全量遷移 | 增量遷移 |
RDS PPAS | 讀許可權 | 讀許可權 | superuser許可權 |
PolarDB PostgreSQL版(相容Oracle)叢集 | schema的owner許可權 | schema的owner許可權 | schema的owner許可權 |
資料庫帳號建立及授權方法:
PolarDB PostgreSQL版(相容Oracle)叢集的帳號建立及授權方式,詳情請參見建立帳號。
操作步驟
登入資料轉送控制台。
說明若資料轉送控制台自動跳轉至Data Management控制台,您可以在右下角的中單擊,返回至舊版資料轉送控制台。
在左側導覽列,單擊資料移轉。
在遷移工作清單頁面頂部,選擇遷移的目的地組群所屬地區。
單擊頁面右上方的建立遷移任務。
- 配置遷移任務的源庫和目標庫串連資訊。
類別 配置 說明 無 任務名稱 DTS會自動產生一個任務名稱,建議配置具有業務意義的名稱(無唯一性要求),便於後續識別。 源庫資訊 執行個體類型 由於DTS暫不直接支援將RDS PPAS執行個體作為源庫,請選擇通過專線/VPN網關/Smart Access Gateway接入的自建資料庫來完成資料移轉任務的配置。 執行個體地區 選擇RDS PPAS執行個體所在的地區。 已和源端資料庫聯通的VPC 選擇RDS PPAS執行個體的資料庫接入的VPC ID。 資料庫類型 選擇PPAS。 版本 選擇RDS PPAS執行個體對應的版本。 IP地址 填入RDS PPAS執行個體的私人網路地址。 連接埠 填入RDS PPAS執行個體服務連接埠,預設為3433。 資料庫名稱 填入RDS PPAS執行個體中待遷移的資料庫名。 資料庫帳號 填入RDS PPAS執行個體的資料庫帳號。相關許可權要求,詳情請參見資料庫帳號的許可權要求。 資料庫密碼 填入該資料庫帳號對應的密碼。 說明源庫資訊填寫完畢後,您可以單擊資料庫密碼後的測試連接來驗證填入的源庫資訊是否正確。源庫資訊填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗後的診斷,根據提示調整填寫的源庫資訊。
目標庫資訊 執行個體類型 選擇PolarDB。 執行個體地區 選擇目標PolarDB PostgreSQL版(相容Oracle)叢集所屬地區。 PolarDB執行個體ID 選擇目標PolarDB PostgreSQL版(相容Oracle)叢集ID。 資料庫名稱 填入待遷入資料的資料庫名稱。 資料庫帳號 填入目標PolarDB PostgreSQL版(相容Oracle)叢集的資料庫帳號。相關許可權要求,詳情請參見資料庫帳號的許可權要求。 資料庫密碼 填入該資料庫帳號對應的密碼。 說明目標庫資訊填寫完畢後,您可以單擊資料庫密碼後的測試連接來驗證填入的目標庫資訊是否正確。目標庫資訊填寫正確則提示測試通過;如果提示測試失敗,單擊測試失敗後的診斷,根據提示調整填寫的目標庫資訊。
- 配置完成後,單擊頁面右下角的授權白名單並進入下一步。如果源或目標資料庫是阿里雲資料庫執行個體(例如RDS MySQL、ApsaraDB for MongoDB等),DTS會自動將對應地區DTS服務的IP地址添加到阿里雲資料庫執行個體的白名單;如果源或目標資料庫是ECS上的自建資料庫,DTS會自動將對應地區DTS服務的IP地址添到ECS的安全規則中,您還需確保自建資料庫沒有限制ECS的訪問(若資料庫是叢集部署在多個ECS執行個體,您需要手動將DTS服務對應地區的IP地址添到其餘每個ECS的安全規則中);如果源或目標資料庫是IDC自建資料庫或其他雲資料庫,則需要您手動添加對應地區DTS服務的IP地址,以允許來自DTS伺服器的訪問。DTS服務的IP地址,請參見DTS伺服器的IP位址區段。警告
DTS自動添加或您手動添加DTS服務的公網IP位址區段可能會存在安全風險,一旦使用本產品代表您已理解和確認其中可能存在的安全風險,並且需要您做好基本的安全防護,包括但不限於加強帳號密碼強度防範、限制各網段開放的連接埠號碼、內部各API使用鑒權方式通訊、定期檢查並限制不需要的網段,或者使用通過內網(專線/VPN網關/智能網關)的方式接入。
- 選擇遷移對象及遷移類型。
配置 說明 遷移類型 - 如果只需要進行全量遷移,同時勾選結構遷移和全量資料移轉。
- 如果需要進行不停機遷移,同時勾選結構遷移、全量資料移轉和增量資料移轉。
重要- 如果未勾選增量資料移轉,為保障資料一致性,在結構遷移或全量資料移轉期間請勿在來源資料庫中寫入新的資料。
- 在結構遷移和全量資料移轉完成之前,請勿對遷移對象執行DDL操作,否則可能導致遷移失敗。
遷移對象 在遷移對象框中單擊待遷移的對象,然後單擊將其移動到已選擇對象框。
說明- 遷移對象選擇的粒度為庫、表、列。
- 預設情況下,遷移對象在目標庫中的名稱與源庫保持一致。如果您需要改變遷移對象在目標庫中的名稱,需要使用對象名映射功能,詳情請參見庫表列映射。
- 如果使用了對象名映射功能,可能會導致依賴這個對象的其他對象遷移失敗。
映射名稱更改 如需更改遷移對象在目標執行個體中的名稱,請使用對象名映射功能,詳情請參見庫表列映射。 源、目標庫無法串連重試時間 預設重試12小時,您也可以自訂重試時間。如果DTS在設定的時間內重新串連上源、目標庫,遷移任務將自動回復。否則,遷移任務將失敗。 說明 由於串連重試期間,DTS將收取任務運行費用,建議您根據業務需要自訂重試時間,或者在源和目標庫執行個體釋放後儘快釋放DTS執行個體。 上述配置完成後,單擊頁面右下角的預檢查並啟動。
說明在遷移任務正式啟動之前,會先進行預檢查。只有預檢查通過後,才能成功啟動遷移任務。
如果預檢查失敗,單擊具體檢查項後的,查看失敗詳情。
您可以根據提示修複後重新進行預檢查。
如無需修複警示檢測項,您也可以選擇確認屏蔽、忽略警示項並重新進行預檢查,跳過警示檢測項重新進行預檢查。
預檢查通過後,單擊下一步。
在彈出的購買配置確認對話方塊,選擇鏈路規格並選中資料轉送(隨用隨付)服務條款。
單擊購買並啟動,遷移任務正式開始。
結構遷移+全量資料移轉
請勿手動結束遷移任務,否則可能會導致資料不完整。您只需等待遷移任務完成即可,遷移任務會自動結束。
結構遷移+全量資料移轉+增量資料移轉
遷移任務不會自動結束,您需要手動結束遷移任務。
重要請選擇合適的時間手動結束遷移任務,例如業務低峰期或準備將業務切換至目的地組群時。
觀察遷移任務的進度變更為增量遷移,並顯示為無延遲狀態時,將源庫停寫幾分鐘,此時增量遷移的狀態可能會顯示延遲的時間。
等待遷移任務的增量遷移再次進入無延遲狀態後,手動結束遷移任務。