全部产品
Search

搜索本产品

    数据传输服务 DTS：从自建Oracle迁移至云原生数据仓库AnalyticDB PostgreSQL

    文档中心

    数据传输服务 DTS：从自建Oracle迁移至云原生数据仓库AnalyticDB PostgreSQL

    更新时间：Oct 09, 2023

    数据传输服务DTS（Data Transmission Service）支持将自建Oracle迁移至云原生数据仓库AnalyticDB PostgreSQL，帮助您构建实时数仓。

    前提条件

    • 自建Oracle数据库的版本为9i、10g、11g、12c、18c或19c版本。

    • 自建Oracle数据库已开启归档模式（ARCHIVELOG），设置合理的归档日志保持周期且归档日志能够被访问，详情请参见ARCHIVELOG。

    • 自建Oracle数据库已开启Supplemental Logging，且已开启supplemental_log_data_pk和supplemental_log_data_ui，详情请参见Supplemental Logging。

    • 目标云原生数据仓库AnalyticDB PostgreSQL实例的创建方式，请参见创建云原生数据仓库AnalyticDB PostgreSQL实例。

    费用说明

    迁移类型

    链路配置费用

    公网流量费用

    结构迁移和全量数据迁移

    不收费。

    通过公网将数据迁移出阿里云时将收费，详情请参见计费概述。

    增量数据迁移

    收费，详情请参见计费概述。

    注意事项

    • DTS在执行全量数据迁移时将占用源库和目标库一定的读写资源，可能会导致数据库的负载上升，您需要在执行数据迁移前评估数据迁移对源库和目标库性能的影响，同时建议您在业务低峰期执行数据迁移。

    • 对于迁移失败的任务，DTS会触发自动恢复。在您将业务切换至目标库之前，请务必先停止或释放该任务，避免该任务被自动恢复，导致源端数据覆盖目标库的数据。

    • 仅支持表级别的迁移，且目标表暂不支持AO表。

    • 若使用列映射时为非全表迁移或者源与目标表结构不一致，则目标端比源端缺少的列的数据将会丢失。

    • 如自建Oracle为RAC结构，且需接入阿里云VPC，为保证DTS任务成功运行，您需要将Oracle RAC的SCAN IP和每个节点的VIP均接入至阿里云VPC，并且配置路由。具体步骤，请参见通过VPN网关实现本地IDC与DTS云服务互通。
      重要 在DTS控制台上配置源Oracle数据库信息时，在数据库地址或者IP地址只需输入Oracle RAC的SCAN IP。

    迁移类型说明

    迁移类型

    说明

    结构迁移

    DTS将源库中待迁移对象的结构定义迁移到目标库。目前DTS支持的对象包括：table、index、constraint、function、sequence和view。

    警告

    • 此场景属于异构数据库间的数据迁移，DTS在执行结构迁移时数据类型无法完全对应，请谨慎评估数据类型的映射关系对业务的影响，详情请参见异构数据库间的数据类型映射关系。

    • 对于分区表，DTS会丢弃分区定义，您需要在目标库自行定义。

    全量数据迁移

    DTS将源库中待迁移对象的存量数据全部迁移至目标库。

    说明

    在结构迁移和全量数据迁移完成之前，请勿对迁移对象执行DDL操作，否则可能导致迁移失败。

    增量数据迁移

    DTS在全量数据迁移的基础上轮询并捕获自建Oracle数据库产生的redo log，将自建Oracle数据库的增量更新数据实时迁移至目标库。

    在增量数据迁移阶段，DTS支持同步的SQL语句如下：

    • DML：INSERT、UPDATE、DELETE

    • DDL：ADD COLUMN

    通过增量数据迁移可以实现在自建应用不停服的情况下，平滑地完成数据迁移。

    数据库账号所需权限

    数据库

    结构迁移

    全量迁移

    增量数据迁移

    自建Oracle数据库

    Schema的Owner权限

    Schema的Owner权限

    DBA

    云原生数据仓库AnalyticDB PostgreSQL

    目标库的读写权限

    目标库的读写权限

    目标库的读写权限

    数据库账号创建及授权方法：

    重要

    如果需要执行增量数据迁移，但是不允许授予DBA权限，您可以参照以下内容为数据库账号授予更精细化的权限。

    Oracle的日志开启和精细化授权

    重要

    如需迁移增量数据，且不允许授予DBA权限，您需要按照如下方法开启归档和补充日志，并为Oracle数据库账号授予更精细化的权限。

    1. 开启归档和补充日志。

      日志类型

      开启步骤

      归档日志

      执行如下命令，开启归档日志：

      shutdown immediate;
startup mount;
alter database archivelog;
alter database open;
archive log list;

      补充日志

      按业务需求，选择开启库级别补充日志或者表级别补充日志：

      说明

      开启库级别补充日志，则DTS任务运行更为稳定；开启表级别补充日志，则更节约源Oracle数据库的磁盘空间。

      • 开启库级别补充日志

        1. 打开最小补充日志：

          alter database add supplemental log data;

        2. 开启库级主键、唯一键补充日志：

          alter database add supplemental log data (primary key,unique index) columns;

      • 开启表级补充日志

        1. 打开最小补充日志：

          alter database add supplemental log data;

        2. 开启表级补充日志（两者选其一） ：

          • 开启表级别主键补充日志

            alter table table_name add supplemental log data (primary key) columns;

          • 开启表级别全字段补充日志

            alter table tb_name add supplemental log data (all) columns;

      记录日志

      执行如下命令，开启记录日志：

      alter database force logging;

    2. 为Oracle数据库账号授予更精细化的权限。

      Oracle 9i～11g版本

      #创建数据库账号（以rdsdt_dtsacct为例）并进行授权
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create session to rdsdt_dtsacct;
grant connect to rdsdt_dtsacct;
grant resource to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
grant select on V_$LOGMNR_LOGS to rdsdt_dtsacct;
grant select on  all_objects to rdsdt_dtsacct;
grant select on  all_tab_cols to rdsdt_dtsacct;
grant select on  dba_registry to rdsdt_dtsacct;
grant select any table to rdsdt_dtsacct;
grant select any transaction to rdsdt_dtsacct;
-- v$log privileges
grant select on v_$log to rdsdt_dtsacct;
-- v$logfile privileges
grant select on v_$logfile to rdsdt_dtsacct;
-- v$archived_log privileges
grant select on v_$archived_log to rdsdt_dtsacct;
-- v$parameter privileges
grant select on v_$parameter to rdsdt_dtsacct;
-- v$database privileges
grant select on v_$database to rdsdt_dtsacct;
-- v$active_instances privileges
grant select on v_$active_instances to rdsdt_dtsacct;
-- v$instance privileges
grant select on v_$instance to rdsdt_dtsacct;
-- v$logmnr_contents privileges
grant select on v_$logmnr_contents to rdsdt_dtsacct;
-- system tables
grant select on sys.USER$ to rdsdt_dtsacct;
grant select on SYS.OBJ$ to rdsdt_dtsacct;
grant select on SYS.COL$ to rdsdt_dtsacct;
grant select on SYS.IND$ to rdsdt_dtsacct;
grant select on SYS.ICOL$ to rdsdt_dtsacct;
grant select on SYS.CDEF$ to rdsdt_dtsacct;
grant select on SYS.CCOL$ to rdsdt_dtsacct;
grant select on SYS.TABPART$ to rdsdt_dtsacct;
grant select on SYS.TABSUBPART$ to rdsdt_dtsacct;
grant select on SYS.TABCOMPART$ to rdsdt_dtsacct;
grant select_catalog_role TO rdsdt_dtsacct;

      Oracle 12c～19c（租户式）

      #切换至PDB，创建数据库账号（以rdsdt_dtsacct为例）并进行授权
ALTER SESSION SET container = ORCLPDB1;
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create  session to rdsdt_dtsacct;
grant connect  to rdsdt_dtsacct;
grant resource to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
grant select on  all_objects to rdsdt_dtsacct;
grant select on  all_tab_cols to rdsdt_dtsacct;
grant select on  dba_registry to rdsdt_dtsacct;
grant select any table to rdsdt_dtsacct;
grant select any transaction to rdsdt_dtsacct;
-- v$log privileges
grant select on v_$log to rdsdt_dtsacct;
-- v$logfile privileges
grant select on v_$logfile to rdsdt_dtsacct;
-- v$archived_log privileges
grant select on v_$archived_log to rdsdt_dtsacct;
-- v$parameter privileges
grant select on v_$parameter to rdsdt_dtsacct;
-- v$database privileges
grant select on v_$database to rdsdt_dtsacct;
-- v$active_instances privileges
grant select on v_$active_instances to rdsdt_dtsacct;
-- v$instance privileges
grant select on v_$instance to rdsdt_dtsacct;
-- v$logmnr_contents privileges
grant select on v_$logmnr_contents to rdsdt_dtsacct;
grant select on sys.USER$ to rdsdt_dtsacct;
grant select on SYS.OBJ$ to rdsdt_dtsacct;
grant select on SYS.COL$ to rdsdt_dtsacct;
grant select on SYS.IND$ to rdsdt_dtsacct;
grant select on SYS.ICOL$ to rdsdt_dtsacct;
grant select on SYS.CDEF$ to rdsdt_dtsacct;
grant select on SYS.CCOL$ to rdsdt_dtsacct;
grant select on SYS.TABPART$ to rdsdt_dtsacct;
grant select on SYS.TABSUBPART$ to rdsdt_dtsacct;
grant select on SYS.TABCOMPART$ to rdsdt_dtsacct;
-- V$PDBS privileges
grant select on V_$PDBS to rdsdt_dtsacct;
grant select on v$database to rdsdt_dtsacct;
grant select on dba_objects to rdsdt_dtsacct;
grant select on DBA_TAB_COMMENTS to rdsdt_dtsacct;
grant select on dba_tab_cols to rdsdt_dtsacct;
grant select_catalog_role TO rdsdt_dtsacct;

#切换至CDB$ROOT，并进行账号创建并授权
ALTER SESSION SET container = CDB$ROOT;
#创建数据库账号（以rdsdt_dtsacct为例）并进行授权，您需修改Oracle数据库的默认参数。
alter session set "_ORACLE_SCRIPT"=true;
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create session to rdsdt_dtsacct;
grant connect to rdsdt_dtsacct;
grant select on v_$logmnr_contents to rdsdt_dtsacct;
grant LOGMINING TO rdsdt_dtsacct;
grant EXECUTE_CATALOG_ROLE to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;

      Oracle 12c~19c（非租户式）

      #创建数据库账号（以rdsdt_dtsacct为例）并进行授权
create user rdsdt_dtsacct IDENTIFIED BY rdsdt_dtsacct;
grant create  session to rdsdt_dtsacct;
grant connect  to rdsdt_dtsacct;
grant resource to rdsdt_dtsacct;
grant select on V_$LOGMNR_LOGS to rdsdt_dtsacct;
grant select on  all_objects to rdsdt_dtsacct;
grant select on  all_tab_cols to rdsdt_dtsacct;
grant select on  dba_registry to rdsdt_dtsacct;
grant select any table to rdsdt_dtsacct;
grant select any transaction to rdsdt_dtsacct;
grant select on v$database to rdsdt_dtsacct;
grant select on dba_objects to rdsdt_dtsacct;
grant select on DBA_TAB_COMMENTS to rdsdt_dtsacct;
grant select on dba_tab_cols to rdsdt_dtsacct;
-- v$log privileges
grant select on v_$log to rdsdt_dtsacct;
-- v$logfile privileges
grant select on v_$logfile to rdsdt_dtsacct;
-- v$archived_log privileges
grant select on v_$archived_log to rdsdt_dtsacct;
-- v$parameter privileges
grant select on v_$parameter to rdsdt_dtsacct;
-- v$database privileges
grant select on v_$database to rdsdt_dtsacct;
-- v$active_instances privileges
grant select on v_$active_instances to rdsdt_dtsacct;
-- v$instance privileges
grant select on v_$instance to rdsdt_dtsacct;
-- v$logmnr_contents privileges
grant select on v_$logmnr_contents to rdsdt_dtsacct;
grant select on sys.USER$ to rdsdt_dtsacct;
grant select on SYS.OBJ$ to rdsdt_dtsacct;
grant select on SYS.COL$ to rdsdt_dtsacct;
grant select on SYS.IND$ to rdsdt_dtsacct;
grant select on SYS.ICOL$ to rdsdt_dtsacct;
grant select on SYS.CDEF$ to rdsdt_dtsacct;
grant select on SYS.CCOL$ to rdsdt_dtsacct;
grant select on SYS.TABPART$ to rdsdt_dtsacct;
grant select on SYS.TABSUBPART$ to rdsdt_dtsacct;
grant select on SYS.TABCOMPART$ to rdsdt_dtsacct;
grant LOGMINING TO rdsdt_dtsacct;
grant EXECUTE_CATALOG_ROLE to rdsdt_dtsacct;
grant execute on sys.dbms_logmnr to rdsdt_dtsacct;
grant select_catalog_role TO rdsdt_dtsacct;
      说明

      关于Oracle（租户式）的更多信息，请参见Oracle数据库多租户。

    操作步骤

    1. 登录数据传输控制台。

      说明

      若数据传输控制台自动跳转至数据管理DMS控制台，您可以在右下角的jiqiren中单击返回旧版，返回至旧版数据传输控制台。

    2. 在左侧导航栏，单击数据迁移。

    3. 在迁移任务列表页面顶部，选择迁移的目标实例所属地域。

    4. 单击页面右上角的创建迁移任务。

    5. 配置迁移任务的源库和目标库连接信息。

      配置源和目标库信息

      类别

      配置

      说明

      无

      任务名称

      DTS会自动生成一个任务名称，建议配置具有业务意义的名称（无唯一性要求），便于后续识别。

      源库信息

      实例类型

      根据源库的部署位置进行选择，本文以ECS上的自建数据库为例介绍配置流程。

      说明

      当自建数据库为其他实例类型时，您还需要执行相应的准备工作，详情请参见准备工作概览。

      实例地区

      选择部署了Oracle数据库的ECS实例所属的地域。

      ECS实例ID

      选择自建Oracle数据库所属的ECS实例ID。

      数据库类型

      选择Oracle。

      端口

      填入自建Oracle数据库的服务端口，默认为1521。

      实例类型

      • 非RAC实例：选择该项后，您还需要填写SID信息。

      • RAC实例：选择该项后，您还需要填写ServiceName信息。

      本案例选择为非RAC实例。

      SID

      填写自建Oracle数据库的SID信息。

      数据库账号

      填入自建Oracle数据库的数据库账号，权限要求请参见数据库账号所需权限。

      数据库密码

      填入该数据库账号的密码。

      说明

      源库信息填写完毕后，您可以单击数据库密码后的测试连接来验证填入的源库信息是否正确。源库信息填写正确则提示测试通过；如果提示测试失败，单击测试失败后的诊断，根据提示调整填写的源库信息。

      目标库信息

      实例类型

      选择AnalyticDB for PostgreSQL。

      实例地区

      选择目标云原生数据仓库AnalyticDB PostgreSQL实例所属地域。

      实例ID

      选择目标云原生数据仓库AnalyticDB PostgreSQL实例ID。

      数据库名称

      填入迁入数据的目标数据库名称。

      数据库账号

      填入目标云原生数据仓库AnalyticDB PostgreSQL的数据库账号，权限要求请参见数据库账号所需权限。

      数据库密码

      填入该数据库账号的密码。

    6. 配置完成后，单击页面右下角的授权白名单并进入下一步。

      如果源或目标数据库是阿里云数据库实例（例如RDS MySQL、云数据库MongoDB版等），DTS会自动将对应地区DTS服务的IP地址添加到阿里云数据库实例的白名单；如果源或目标数据库是ECS上的自建数据库，DTS会自动将对应地区DTS服务的IP地址添到ECS的安全规则中，您还需确保自建数据库没有限制ECS的访问（若数据库是集群部署在多个ECS实例，您需要手动将DTS服务对应地区的IP地址添到其余每个ECS的安全规则中）；如果源或目标数据库是IDC自建数据库或其他云数据库，则需要您手动添加对应地区DTS服务的IP地址，以允许来自DTS服务器的访问。DTS服务的IP地址，请参见DTS服务器的IP地址段。

      警告

      DTS自动添加或您手动添加DTS服务的公网IP地址段可能会存在安全风险，一旦使用本产品代表您已理解和确认其中可能存在的安全风险，并且需要您做好基本的安全防护，包括但不限于加强账号密码强度防范、限制各网段开放的端口号、内部各API使用鉴权方式通信、定期检查并限制不需要的网段，或者使用通过内网（专线/VPN网关/智能网关）的方式接入。

    7. 选择迁移类型、操作类型和迁移对象。

      选择迁移类型和对象

      配置

      说明

      迁移类型

      • 如果只需要执行全量迁移，同时选中结构迁移和全量数据迁移。

      • 如果需要执行不停机迁移，同时选中结构迁移、全量数据迁移和增量数据迁移。

      说明

      如果没有选择增量数据迁移，为保障数据一致性，数据迁移期间请勿在源库中写入新的数据。

      操作类型

      根据业务需求，选择增量数据迁移阶段需要同步的操作类型，默认全部选中。

      迁移对象

      在迁移对象框中单击待迁移的对象，然后单击向右小箭头图标将其移动至已选择对象框。

      说明

      • 迁移对象选择的粒度为表。

      • 默认情况下，迁移对象在目标库中的名称与源库保持一致。如果您需要改变迁移对象在目标库中的名称，需要使用对象名映射功能，详情请参见库表列映射。

      • 如果使用了对象名映射功能，可能会导致依赖这个对象的其他对象迁移失败。

      映射名称更改

      如需更改迁移对象在目标实例中的名称，请使用对象名映射功能，详情请参见库表列映射。

      重要

      若使用列映射时为非全表迁移或者源与目标表结构不一致，则目标端比源端缺少的列的数据将会丢失。

      源、目标库无法连接重试时间

      默认重试12小时，您也可以自定义重试时间。如果DTS在设置的时间内重新连接上源、目标库，迁移任务将自动恢复。否则，迁移任务将失败。

      说明

      由于连接重试期间，DTS将收取任务运行费用，建议您根据业务需要自定义重试时间，或者在源和目标库实例释放后尽快释放DTS实例。

      为目标对象名添加引号

      选择是否需要为目标对象名添加引号。如果选择为是，且存在下述情况，DTS在结构初始化阶段和增量数据迁移阶段会为目标对象添加单引号或双引号：

      • 源库所属的业务环境对大小写敏感且大小写混用。

      • 源表名不是以字母开头，且包含字母、数字或特殊字符以外的字符。

        说明

        特殊字符仅支持下划线（_），井号（#）和美元符号（$）。

      • 待迁移的Schema、表或列名称是目标库的关键字、保留字或非法字符。

    8. 设置待迁移的表在云原生数据仓库AnalyticDB PostgreSQL中的主键列和分布键信息。

      Oracle迁移ADBPG高级配置
      说明

      • 关于主键列和分布键的详细说明，请参见表的约束定义和表分布键定义。

      • 如果存在无主键表，本页面将出现无主键表全部设置ROWID作为主键和分布键选项，选中该选项后，DTS会在目标表中增加ROWID字段作为主键和分布键。

    9. 上述配置完成后，单击页面右下角的预检查并启动。

      说明

      • 在迁移任务正式启动之前，会先进行预检查。只有预检查通过后，才能成功启动迁移任务。

      • 如果预检查失败，单击具体检查项后的提示，查看失败详情。

        • 您可以根据提示修复后重新进行预检查。

        • 如无需修复告警检测项，您也可以选择确认屏蔽、忽略告警项并重新进行预检查，跳过告警检测项重新进行预检查。

    10. 预检查通过后，单击下一步。

    11. 在弹出的购买配置确认对话框，选择链路规格并选中数据传输（按量付费）服务条款。

    12. 单击购买并启动，迁移任务正式开始。

      • 结构迁移+全量数据迁移

        请勿手动结束迁移任务，否则可能会导致数据不完整。您只需等待迁移任务完成即可，迁移任务会自动结束。

      • 结构迁移+全量数据迁移+增量数据迁移

        迁移任务不会自动结束，您需要手动结束迁移任务。

        重要

        请选择合适的时间手动结束迁移任务，例如业务低峰期或准备将业务切换至目标集群时。

        1. 观察迁移任务的进度变更为增量迁移，并显示为无延迟状态时，将源库停写几分钟，此时增量迁移的状态可能会显示延迟的时间。

        2. 等待迁移任务的增量迁移再次进入无延迟状态后，手动结束迁移任务。结束增量迁移任务