完成数据源、网络、资源的准备配置后，您可创建实时同步节点，同步数据至Hologres。本文为您介绍如何创建数据实时同步任务，并在创建完成后查看任务运行情况。

前提条件

  1. 已完成数据源配置。您需要在数据集成同步任务配置前，配置好您需要同步的源端和目标端数据库，以便在同步任务配置过程中，可通过选择数据源名称来控制同步任务的读取和写入数据库。实时同步支持的数据源及其配置详情请参见实时同步支持的数据源。
    说明 数据源相关能力介绍详情请参见：数据源概述。
  2. 已购买合适规格的独享数据集成资源组。详情请参见：新增和使用独享数据集成资源组。
  3. 独享数据集成资源组与数据源网络已打通。详情请参见：配置资源组与网络连通。
  4. 数据源环境已准备完成：您可以基于您需要进行的同步配置，在同步任务执行前，授予数据源配置的账号在数据库进行相应操作的权限。详情请参见：数据库环境准备概述。

使用限制

  • 实时数据同步任务仅支持使用独享数据集成资源组。

  • 实时数据同步任务暂不支持同步没有主键的表。

创建实时同步任务

  1. 创建整库实时同步节点。
  2. 配置资源组。
  3. 设置同步来源和规则。
    1. 在数据来源区域，选择要同步的数据源类型和数据源名称等信息。
    2. 选择要同步的表。
      在选择同步的源表区域，为您展示所选数据源下所有的表，您可以在源端库表区域选中需要同步的整库全表或部分表，并单击图标图标，将其移动至已选库表。
      重要 如果选中的表没有主键，将无法进行实时同步。
    3. 在设置表（库）名的映射规则区域，单击添加规则，选择相应的规则进行添加。
      同步时默认将源端数据表写入目的端同名schema或同名表中，同时，您可以通过添加映射规则定义最终写入目的端的schema或表名称，实现将多张表数据写入到同一个目标表中，或统一将源端某固定前缀的表名在写入目标表时更新为其他前缀。支持通过正则表达式转换写入的schema名或表名，还支持使用内置变量拼接目标表名。配置逻辑请参见：设置来源和同步规则。
  4. 设置目标表。
    1. 设置写入Hologres策略。
      写入Hologres策略目前仅支持重放，重放表示镜像功能，即源端INSERT一条记录，Hologres中也INSERT一条记录；源端执行UPDATE或DELETE操作，Hologres中也进行UPDATE或DELETE。
    2. 刷新源表和Hologres表映射。
      单击刷新源表和Hologres表映射，将根据您在步骤3配置的目标文件映射规则来生成目标表，若步骤3未配置映射规则，将默认写入与源表同名的目标表，若目标端不存在该同名表，将默认新建。同时，您可以修改表建立方式、为目标表在源有表字段基础上增加附加字段。
      功能描述
      为非主键表选择主键由于当前方案不支持无主键表同步，所以您需要单击同步主键列的编辑按钮，为无主键表设置自选主键，即选择表中一个或部分字段作为主键。
      选择表建立方式支持自动建表和使用已有表。
      • 当表建立方式选择使用已有表时，您可以在Hologres表名列对应的下拉列表中选择需要使用的表名称。
      • 当表建立方式选择自动建表时，Hologres表名列显示自动创建的Hologres表名称。您可以单击表名称，查看和修改建表语句。
      为目标字段添加附加字段单击操作列的编辑附加字段，可以为目标表在源端字段的基础上增加字段并为字段赋值。支持手动赋值常量与变量。
      说明 仅在表建立方式为自动建表时，可以使用此功能。
      数据集成附加字段支持的变量字段如下：
      EXECUTE_TIME：执行时间
UPDATE_TIME：更新时间
DB_NAME_SRC：原始数据库名称
DB_NAME_SRC_TRANSED：转换后数据库名称
DATASOURCE_NAME_SRC：源端数据源名称
DATASOURCE_NAME_DEST：目的端数据源名称
DB_NAME_DEST：目的端数据库名称
TABLE_NAME_DEST：目的端表名称
TABLE_NAME_SRC：源端表名称
    3. 单击下一步
      如果您前一步中目标数据源使用的表建立方式为自动建表，则需要在弹出的自动建表对话框，单击开始建表，批量创建目标Hologres表。
  5. 设置表粒度同步规则。
    即当源表发生插入、更新、删除时，您可以在此处定义对应的处理策略。
    • 正常处理：源端DML消息将会继续下发给目标数据源，由目标数据源来处理。
    • 忽略：直接丢弃该消息，不再向目标数据源发送对应的DML消息，对应数据不会改变。
    • 有条件的正常处理：选择后，您可以配置过滤条件，同步任务将按照您配置的过滤表达式对源端数据进行过滤，满足过滤条件的数据会被正常处理，不满足的会被忽略掉。
  6. DDL消息处理规则设置。

    来源数据源会包含许多DDL操作，数据集成体提供默认处理策略，您也可以根据业务需求，对不同的DDL消息设置同步至目标端的处理策略。不同DDL消息处理策略请参见：DDL消息处理规则。

  7. 运行资源设置。
    1. 在运行资源设置页面，配置各项参数。
      参数描述
      来源端读取支持最大连接数读取端的最大连接数，即来源端数据库的JDBC连接数。请根据数据库资源的实际情况合理配置。默认为15。
      目标端写入并发数数据同步任务内，可以从来源表并行读取或写入数据至目标端的最大线程数。最大并发数为32。请根据您的资源组大小和目标端实际规模合理设置。
    2. 单击完成配置。

提交并发布实时同步任务

  1. 单击工具栏中的保存图标，保存节点。
  2. 单击工具栏中的提交图标，提交节点任务。
  3. 在提交新版本对话框中，输入变更描述。
  4. 单击确定。
    如果您使用的是标准模式的工作空间，任务提交成功后，需要将任务发布至生产环境进行发布。请单击顶部菜单栏左侧的任务发布。具体操作请参见发布任务。

后续步骤

任务配置完成后，您可以在运维中心 > 实时任务运维 > 实时同步任务面板启动并管理该任务，详情请参见：实时同步任务运维。