全部产品
Search

搜索本产品

    数据传输服务 DTS：从自建Oracle迁移至PolarDB-X

    文档中心

    数据传输服务 DTS：从自建Oracle迁移至PolarDB-X

    更新时间：Oct 18, 2024

    本文介绍如何使用数据传输服务DTS（Data Transmission Service），将自建Oracle数据迁移至PolarDB-X。DTS支持全量数据迁移以及增量数据迁移，同时使用这两种迁移类型可以实现在自建应用不停服的情况下，平滑地完成Oracle数据库的数据迁移工作。

    前提条件

    • 自建Oracle数据库的版本为9i、10g、11g、12c、18c或19c版本。

    • 自建Oracle数据库已开启Supplemental Logging，且要求supplemental_log_data_pk，supplemental_log_data_ui已开启，详情请参见Supplemental Logging。

    • 自建Oracle数据库已开启ARCHIVELOG（归档模式），设置合理的归档日志保持周期且归档日志能够被访问，详情请参见ARCHIVELOG。

    • 自建Oracle数据库的服务端口已开放至公网。

    • PolarDB-X中的数据库须基于RDS MySQL创建，DTS暂不支持基于PolarDB MySQL创建的数据库。

    • PolarDB-X中用于创建数据库的RDS实例的存储空间须大于自建Oracle数据库占用的存储空间。

    注意事项

    • DTS在迁移Oracle至PolarDB-X时，不支持结构迁移。

      说明

      结构迁移是指将源数据库中的结构对象定义（如表结构定义）迁移至目标数据库。

    • DTS在执行全量数据迁移时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，在数据库性能较差、规格较低或业务量较大的情况下（例如源库有大量慢SQL、存在无主键表或目标库存在死锁等），可能会加重数据库压力，甚至导致数据库服务不可用。因此您需要在执行数据迁移前评估源库和目标库的性能，同时建议您在业务低峰期执行数据迁移（例如源库和目标库的CPU负载在30%以下）。

    • 如果源库中待迁移的表没有主键或唯一约束，且所有字段没有唯一性，可能会导致目标数据库中出现重复数据。

    • 如自建Oracle为RAC结构，且需接入阿里云VPC，为保证DTS任务成功运行，您需要将Oracle RAC的SCAN IP和每个节点的VIP均接入至阿里云VPC，并且配置路由。具体步骤，请参见通过VPN网关实现本地IDC与DTS云服务互通。

      重要

      在DTS控制台上配置源Oracle数据库信息时，在数据库地址或者IP地址只需输入Oracle RAC的SCAN IP。

    • 对于迁移失败的任务，DTS会触发自动恢复。当您需要将业务切换至目标实例，请务必先终止或释放该任务，避免该任务被自动恢复，导致源端数据覆盖目标实例的数据。

    费用说明

    迁移类型

    链路配置费用

    公网流量费用

    结构迁移和全量数据迁移

    不收费。

    通过公网将数据迁移出阿里云时将收费，详情请参见计费概述。

    增量数据迁移

    收费，详情请参见计费概述。

    迁移类型说明

    • 全量数据迁移

      DTS会将自建Oracle数据库迁移对象的存量数据，全部迁移到目标PolarDB-X数据库中 。

      说明

      为保障数据一致性，全量数据迁移期间请勿在自建Oracle数据库中写入新的数据。

    • 增量数据迁移

      DTS在全量数据迁移的基础上轮询并捕获自建Oracle数据库产生的redolog，将自建Oracle数据库的增量更新数据同步到目标PolarDB-X数据库中。通过增量数据迁移可以实现在自建应用不停服的情况下，平滑地完成Oracle数据库迁移至PolarDB-X数据库。

      说明

      增量数据迁移支持同步的SQL操作为INSERT、DELETE、UPDATE，不支持DDL同步。

    准备工作

    1. 根据自建Oracle数据库中待迁移数据表的数据结构，在目标PolarDB-X中创建相应的数据库和数据表，详情请参见创建数据库和创建数据表。

      说明

      由于Oracle和PolarDB-X的数据类型并不是一一对应的，您需要在PolarDB-X中定义对应的数据类型，详情请参见异构数据库间的数据类型映射关系。

    2. 登录待迁移的Oracle数据库，创建用于采集数据的账号并授权。

      数据库

      全量迁移

      增量数据迁移

      自建Oracle数据库

      Schema的Owner权限

      DBA

      PolarDB-X

      待迁入数据库的写权限

      待迁入数据库的写权限

    Oracle的日志开启和精细化授权

    重要

    如需迁移增量数据，且不允许授予DBA权限，您需要按照如下方法开启归档和补充日志，并为Oracle数据库账号授予更精细化的权限。

    1. 开启归档和补充日志。

      日志类型

      开启步骤

      归档日志

      执行如下命令，开启归档日志：

      shutdown immediate;
startup mount;
alter database archivelog;
alter database open;
archive log list;

      补充日志

      按业务需求，选择开启库级别补充日志或者表级别补充日志：

      说明

      开启库级别补充日志，则DTS任务运行更为稳定；开启表级别补充日志，则更节约源Oracle数据库的磁盘空间。

      • 开启库级别补充日志

        1. 打开最小补充日志：

          alter database add supplemental log data;

        2. 开启库级主键、唯一键补充日志：

          alter database add supplemental log data (primary key,unique index) columns;

      • 开启表级补充日志

        1. 打开最小补充日志：

          alter database add supplemental log data;

        2. 开启表级补充日志（两者选其一） ：

          • 开启表级别主键补充日志

            alter table table_name add supplemental log data (primary key) columns;

          • 开启表级别全字段补充日志

            alter table tb_name add supplemental log data (all) columns;

      记录日志

      执行如下命令，开启记录日志：

      alter database force logging;

    2. 为Oracle数据库账号授予更精细化的权限。

      Oracle 9i～11g版本

      #创建数据库账号（以rdsdt_dtsacct为例）并进行授权
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create session to rdsdt_dtsacct;
grant connect to rdsdt_dtsacct;
grant resource to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
grant select on V_$LOGMNR_LOGS to rdsdt_dtsacct;
grant select on  all_objects to rdsdt_dtsacct;
grant select on  all_tab_cols to rdsdt_dtsacct;
grant select on  dba_registry to rdsdt_dtsacct;
grant select any table to rdsdt_dtsacct;
grant select any transaction to rdsdt_dtsacct;
-- v$log privileges
grant select on v_$log to rdsdt_dtsacct;
-- v$logfile privileges
grant select on v_$logfile to rdsdt_dtsacct;
-- v$archived_log privileges
grant select on v_$archived_log to rdsdt_dtsacct;
-- v$parameter privileges
grant select on v_$parameter to rdsdt_dtsacct;
-- v$database privileges
grant select on v_$database to rdsdt_dtsacct;
-- v$active_instances privileges
grant select on v_$active_instances to rdsdt_dtsacct;
-- v$instance privileges
grant select on v_$instance to rdsdt_dtsacct;
-- v$logmnr_contents privileges
grant select on v_$logmnr_contents to rdsdt_dtsacct;
-- system tables
grant select on sys.USER$ to rdsdt_dtsacct;
grant select on SYS.OBJ$ to rdsdt_dtsacct;
grant select on SYS.COL$ to rdsdt_dtsacct;
grant select on SYS.IND$ to rdsdt_dtsacct;
grant select on SYS.ICOL$ to rdsdt_dtsacct;
grant select on SYS.CDEF$ to rdsdt_dtsacct;
grant select on SYS.CCOL$ to rdsdt_dtsacct;
grant select on SYS.TABPART$ to rdsdt_dtsacct;
grant select on SYS.TABSUBPART$ to rdsdt_dtsacct;
grant select on SYS.TABCOMPART$ to rdsdt_dtsacct;
grant select_catalog_role TO rdsdt_dtsacct;

      Oracle 12c～19c（租户式）

      #切换至PDB，创建数据库账号（以rdsdt_dtsacct为例）并进行授权
ALTER SESSION SET container = ORCLPDB1;
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create  session to rdsdt_dtsacct;
grant connect  to rdsdt_dtsacct;
grant resource to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
grant select on  all_objects to rdsdt_dtsacct;
grant select on  all_tab_cols to rdsdt_dtsacct;
grant select on  dba_registry to rdsdt_dtsacct;
grant select any table to rdsdt_dtsacct;
grant select any transaction to rdsdt_dtsacct;
-- v$log privileges
grant select on v_$log to rdsdt_dtsacct;
-- v$logfile privileges
grant select on v_$logfile to rdsdt_dtsacct;
-- v$archived_log privileges
grant select on v_$archived_log to rdsdt_dtsacct;
-- v$parameter privileges
grant select on v_$parameter to rdsdt_dtsacct;
-- v$database privileges
grant select on v_$database to rdsdt_dtsacct;
-- v$active_instances privileges
grant select on v_$active_instances to rdsdt_dtsacct;
-- v$instance privileges
grant select on v_$instance to rdsdt_dtsacct;
-- v$logmnr_contents privileges
grant select on v_$logmnr_contents to rdsdt_dtsacct;
grant select on sys.USER$ to rdsdt_dtsacct;
grant select on SYS.OBJ$ to rdsdt_dtsacct;
grant select on SYS.COL$ to rdsdt_dtsacct;
grant select on SYS.IND$ to rdsdt_dtsacct;
grant select on SYS.ICOL$ to rdsdt_dtsacct;
grant select on SYS.CDEF$ to rdsdt_dtsacct;
grant select on SYS.CCOL$ to rdsdt_dtsacct;
grant select on SYS.TABPART$ to rdsdt_dtsacct;
grant select on SYS.TABSUBPART$ to rdsdt_dtsacct;
grant select on SYS.TABCOMPART$ to rdsdt_dtsacct;
-- V$PDBS privileges
grant select on V_$PDBS to rdsdt_dtsacct;
grant select on v$database to rdsdt_dtsacct;
grant select on dba_objects to rdsdt_dtsacct;
grant select on DBA_TAB_COMMENTS to rdsdt_dtsacct;
grant select on dba_tab_cols to rdsdt_dtsacct;
grant select_catalog_role TO rdsdt_dtsacct;

#切换至CDB$ROOT，并进行账号创建并授权
ALTER SESSION SET container = CDB$ROOT;
#创建数据库账号（以rdsdt_dtsacct为例）并进行授权，您需修改Oracle数据库的默认参数。
alter session set "_ORACLE_SCRIPT"=true;
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create session to rdsdt_dtsacct;
grant connect to rdsdt_dtsacct;
grant select on v_$logmnr_contents to rdsdt_dtsacct;
grant LOGMINING TO rdsdt_dtsacct;
grant EXECUTE_CATALOG_ROLE to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;

      Oracle 12c~19c（非租户式）

      #创建数据库账号（以rdsdt_dtsacct为例）并进行授权
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create  session to rdsdt_dtsacct;
grant connect  to rdsdt_dtsacct;
grant resource to rdsdt_dtsacct;
grant select on V_$LOGMNR_LOGS to rdsdt_dtsacct;
grant select on  all_objects to rdsdt_dtsacct;
grant select on  all_tab_cols to rdsdt_dtsacct;
grant select on  dba_registry to rdsdt_dtsacct;
grant select any table to rdsdt_dtsacct;
grant select any transaction to rdsdt_dtsacct;
grant select on v$database to rdsdt_dtsacct;
grant select on dba_objects to rdsdt_dtsacct;
grant select on DBA_TAB_COMMENTS to rdsdt_dtsacct;
grant select on dba_tab_cols to rdsdt_dtsacct;
-- v$log privileges
grant select on v_$log to rdsdt_dtsacct;
-- v$logfile privileges
grant select on v_$logfile to rdsdt_dtsacct;
-- v$archived_log privileges
grant select on v_$archived_log to rdsdt_dtsacct;
-- v$parameter privileges
grant select on v_$parameter to rdsdt_dtsacct;
-- v$database privileges
grant select on v_$database to rdsdt_dtsacct;
-- v$active_instances privileges
grant select on v_$active_instances to rdsdt_dtsacct;
-- v$instance privileges
grant select on v_$instance to rdsdt_dtsacct;
-- v$logmnr_contents privileges
grant select on v_$logmnr_contents to rdsdt_dtsacct;
grant select on sys.USER$ to rdsdt_dtsacct;
grant select on SYS.OBJ$ to rdsdt_dtsacct;
grant select on SYS.COL$ to rdsdt_dtsacct;
grant select on SYS.IND$ to rdsdt_dtsacct;
grant select on SYS.ICOL$ to rdsdt_dtsacct;
grant select on SYS.CDEF$ to rdsdt_dtsacct;
grant select on SYS.CCOL$ to rdsdt_dtsacct;
grant select on SYS.TABPART$ to rdsdt_dtsacct;
grant select on SYS.TABSUBPART$ to rdsdt_dtsacct;
grant select on SYS.TABCOMPART$ to rdsdt_dtsacct;
grant LOGMINING TO rdsdt_dtsacct;
grant EXECUTE_CATALOG_ROLE to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
grant select_catalog_role TO rdsdt_dtsacct;
      说明

      关于Oracle（租户式）的更多信息，请参见Oracle数据库多租户。

    操作步骤

    1. 登录数据传输控制台。

      说明

      若数据传输控制台自动跳转至数据管理DMS控制台，您可以在右下角的jiqiren中单击返回旧版，返回至旧版数据传输控制台。

    2. 在左侧导航栏，单击数据迁移。

    3. 在迁移任务列表页面顶部，选择迁移的目标实例所属地域。

    4. 单击页面右上角的创建迁移任务。

    5. 配置迁移任务的源库及目标库信息。

      类别

      配置

      说明

      无

      任务名称

      DTS会自动生成一个任务名称，建议配置具有业务意义的名称（无唯一性要求），便于后续识别。

      源库信息

      实例类型

      根据源库的部署位置进行选择，本文以有公网IP的自建数据库为例介绍配置流程。

      说明

      当自建数据库为其他实例类型时，您还需要执行相应的准备工作，详情请参见准备工作概览。

      实例地区

      当实例类型选择为有公网IP的自建数据库时，实例地区无需设置。

      说明

      如果您的自建Oracle数据库具备白名单安全设置，您需要在实例地区配置项后，单击获取DTS IP段来获取到DTS服务器的IP地址，并将获取到的IP地址加入自建Oracle数据库的白名单安全设置中。

      数据库类型

      选择Oracle。

      主机名或IP地址

      填入自建Oracle数据库的访问地址，本案例填入公网地址。

      端口

      填入自建Oracle数据库的服务端口，默认为1521。

      实例类型

      • 非RAC实例：选择该项后，您还需要填写SID信息。

      • RAC实例：选择该项后，您还需要填写ServiceName信息。

      数据库账号

      填入自建Oracle的数据库账号，权限要求请参见准备工作。

      数据库密码

      填入该数据库账号对应的密码。

      说明

      源库信息填写完毕后，您可以单击数据库密码后的测试连接来验证填入的源库信息是否正确。源库信息填写正确则提示测试通过；如果提示测试失败，单击测试失败后的诊断，根据提示调整填写的源库信息。

      目标库信息

      实例类型

      选择DRDS实例。

      实例地区

      选择目标PolarDB-X所属地域。

      DRDS实例ID

      选择目标PolarDB-XID。

      数据库账号

      填入目标PolarDB-X的数据库账号，权限要求请参见准备工作。

      数据库密码

      填入该数据库账号对应的密码。

      说明

      目标库信息填写完毕后，您可以单击数据库密码后的测试连接来验证填入的目标库信息是否正确。目标库信息填写正确则提示测试通过；如果提示测试失败，单击测试失败后的诊断，根据提示调整填写的目标库信息。

    6. 配置完成后，单击页面右下角的授权白名单并进入下一步。

      如果源或目标数据库是阿里云数据库实例（例如RDS MySQL、云数据库MongoDB版等），DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单；如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全规则中）；如果源或目标数据库是IDC自建数据库或其他云数据库，则需要您手动添加对应地区DTS服务的IP地址，以允许来自DTS服务器的访问。DTS服务的IP地址，请参见DTS服务器的IP地址段。

      警告

      DTS自动添加或您手动添加DTS服务的公网IP地址段可能会存在安全风险，一旦使用本产品代表您已理解和确认其中可能存在的安全风险，并且需要您做好基本的安全防护，包括但不限于加强账号密码强度防范、限制各网段开放的端口号、内部各API使用鉴权方式通信、定期检查并限制不需要的网段，或者使用通过内网（专线/VPN网关/智能网关）的方式接入。

    7. 选择迁移对象及迁移类型。 选择迁移类型和迁移对象

      配置

      说明

      迁移类型

      • 如果只需要进行全量迁移，同时选中结构迁移和全量数据迁移。

      • 如果需要进行不停机迁移，同时选中结构迁移、全量数据迁移和增量数据迁移。

      说明

      如果没有选择增量数据迁移，为保障数据一致性，数据迁移期间请勿在源库中写入新的数据。

      迁移对象

      在迁移对象框中选中待迁移的对象，单击向右小箭头图标将其移动到已选择对象框。

      说明

      • 迁移对象选择的粒度可以为库、表、列三个粒度。

      • 默认情况下，迁移完成后，迁移对象名跟自建Oracle数据库一致。如果您需要迁移对象在目标RDS实例上名称不同，那么需要使用DTS提供的对象名映射功能。使用方法请参见库表列映射。

      映射名称更改

      如需更改迁移对象在目标实例中的名称，请使用对象名映射功能，详情请参见库表列映射。

      源、目标库无法连接重试时间

      默认重试时间为720分钟，您也可以自定义重试时间。如果DTS在设置的时间内重新连接上源、目标库，迁移任务将自动恢复。否则，迁移任务将失败。

      说明

      由于连接重试期间，DTS将收取任务运行费用，建议您根据业务需要自定义重试时间，或者在源和目标库实例释放后尽快释放DTS实例。

    8. 上述配置完成后，单击页面右下角的预检查并启动。

      说明

      • 在迁移任务正式启动之前，会先进行预检查。只有预检查通过后，才能成功启动迁移任务。

      • 如果预检查失败，单击具体检查项后的提示，查看失败详情。

        • 您可以根据提示修复后重新进行预检查。

        • 如无需修复告警检测项，您也可以选择确认屏蔽、忽略告警项并重新进行预检查，跳过告警检测项重新进行预检查。

    9. 预检查通过后，单击下一步。

    10. 在购买配置确认页面，选择链路规格并选中数据传输（按量付费）服务条款。

    11. 单击购买并启动，迁移任务正式开始。

      • 全量数据迁移

        请勿手动结束迁移任务，否则可能导致数据不完整。您只需等待迁移任务完成即可，迁移任务会自动结束。

      • 增量数据迁移

        迁移任务不会自动结束，您需要手动结束迁移任务。

        说明

        请选择合适的时间手动结束迁移任务，例如业务低峰期或准备将业务切换至目标实例时。

        1. 观察迁移任务的进度变更为增量迁移，并显示为无延迟时，将源库停写几分钟，此时增量迁移可能会显示延迟的时间。

        2. 等待迁移任务的增量迁移再次进入无延迟后，手动结束迁移任务。无延迟

    12. 将业务切换至PolarDB-X。

    后续操作

    用于数据迁移的数据库账号拥有读写权限，为保障数据库安全性，请在数据迁移完成后，删除自建Oracle数据库和PolarDB-X中的数据库账号。