全部产品
Search
文档中心

云数据库 Tair(兼容 Redis®):Redis实例间的单向数据同步

更新时间:May 10, 2024

数据传输服务DTS(Data Transmission Service)支持Redis数据库的单向同步,适用于异地多活、数据异地容灾等多种应用场景。本文以Redis实例间的单向数据同步为例,介绍数据同步作业的配置流程。

功能概述

  • 全量迁移

    DTS将源库的存量数据全部迁移到目标库中,全量迁移不收费。

  • 增量同步

    在全量迁移的基础上,DTS将源库的增量更新实时地同步到目标库中。增量迁移会根据使用时长产生费用(与迁移的数据量无关),更多信息请参见计费项

前提条件

已创建阿里云Redis实例,且该实例规格需大于自建Redis已使用的内存。更多信息请参见创建实例

说明

建议目标数据库总内存比源库的内存占用大10%以上。若因为目标数据库内存不足,可能会导致数据不一致、任务失败等问题,您需要清空目标数据库并重新配置任务。

注意事项

迁移期间,请勿对源库和目标库进行扩缩容、变配规格、变更连接地址等操作,否则会导致任务失败,您需重新配置任务。同时,执行迁移操作会占用源库和目标库资源,建议您在业务低峰期执行。

操作步骤

  1. 进入数据同步任务的列表页面。

    1. 登录DMS数据管理服务

    2. 在顶部菜单栏中,单击集成与开发(DTS)

    3. 在左侧导航栏,选择数据传输(DTS) > 数据同步

  2. 单击创建任务

  3. 配置源库及目标库信息,并单击页面下方的测试连接以进行下一步

    类别

    配置

    说明

    任务名称

    DTS会自动生成一个任务名称,建议配置具有业务意义的名称(无唯一性要求),便于后续识别。

    源库信息

    选择DMS数据库实例

    若您已将源库录入至DMS中,可在此选择,选择后无需填写下方的源库信息。若未录入,请忽略该选项。

    数据库类型

    选择Tair/Redis

    接入方式

    选择云实例

    实例地区

    选择实例所属的地域。

    是否跨阿里云账号

    本示例为同一阿里云账号间的迁移,选择不跨账号

    实例ID

    选择源RedisTair实例ID。

    数据库密码

    填入用于连接源Redis数据库的密码。

    说明
    • 非必填项,若没有设置密码可以不填。

    • 若使用自定义账号,该账号需要具有读权限,账号、密码的格式为<user>:<password>。例如,Redis实例自定义的账号为admin,密码为Rp829dlwa,则此处填入的数据库密码为admin:Rp829dlwa。

    目标库信息

    选择DMS数据库实例

    若您已将目标库录入至DMS中,可在此选择,选择后无需填写下方的目标库信息。若未录入,请忽略该选项。

    数据库类型

    将默认选择Tair/Redis

    接入方式

    选择云实例

    实例地区

    选择目标Redis实例的所属地域。

    实例ID

    选择目标Redis实例ID。

    数据库密码

    填入连接目标Redis数据库的密码。

    说明

    若使用自定义账号,该账号需要具有写权限,账号、密码格式为<user>:<password>。例如,Redis实例自定义的账号为admin,密码为Rp829dlwa,则此处填入的数据库密码为admin:Rp829dlwa。

  4. 配置任务对象,并单击页面下方的下一步高级配置

    配置

    说明

    同步类型

    固定选中全量同步 + 增量同步

    目标已存在表的处理模式

    • 预检查并报错拦截(默认):检查目标库中是否存在数据(Key)。

      若存在,则在预检查阶段提示错误,且不会启动迁移任务;若不存在,则通过。

    • 忽略报错并继续执行:跳过目标库对象数据存在性检查项,若目标库中已存在名称相同的Key,则会被覆盖。

    源库对象已选择对象

    源库对象框中勾选待同步的对象,然后单击image.png将其移动至已选择对象框。若您需要移除已选择的对象,可以在已选择对象框中单击目标对象,然后单击image.png将其移动至源库对象

    说明

    迁移对象的选择粒度为库(DB 0 ~ DB 255)。

  5. 进行高级配置,并单击页面下方的下一步数据校验

    通常情况下,该配置项保持默认即可,更多信息请参见附录:高级设置说明

  6. 进行校验配置,并单击页面下方的下一步保存任务并预检查

    通常情况下,该配置项保持默认即可,更多信息请参见在DTS同步或迁移实例中配置数据校验

  7. 进行预检查,完成后单击下一步购买

    若预检查产生警告失败项,请逐条确认。您可以单击查看详情,根据提示进行修复;您也可以单击点击确认告警详情,忽略检查项,但可能会产生数据不一致等问题,给业务带来风险,更多信息请参见预检查问题。完成上述操作后,请重新进行预检查。

  8. 购买页配置信息,并单击购买并启动

    • (可选)选择DTS迁移链路所属的资源组配置,默认为default resource group

    • (可选)选择DTS迁移链路的规格,规格越高,迁移速率越大,费用也越高,默认为large,更多信息请参见数据同步链路规格说明

    • 阅读并勾选服务条款。

    购买后,迁移任务正式开始,您可以在数据迁移界面查看具体进度。

后续步骤

若后续不希望再进行数据同步,您可以在控制台手动结束或释放该任务。

常见问题

  • 为什么测试连接失败?

    请排查以下几方面:

    • 账号密码错误,Redis的密码格式为user:password,更多信息请参见Redis实例登录方式

    • 若源库为IDC自建数据库或其他云数据库,可能存在网络防火墙,请您手动添加对应地区DTS服务的IP地址,以允许来自DTS服务器的访问,更多信息请参见添加DTS服务器的IP地址段

  • 为什么会运行失败?

    • 迁移期间,若对源库和目标库进行扩缩容、变配规格、变更连接地址等操作,会导致任务失败,您需重新配置任务。

    • 若目标实例内存空间不足,或目标实例为集群架构且某分片达到了内存上限,DTS任务会因内存溢出(Out of Memory)而失败。

    • 若目标实例已开启透明数据加密TDE功能,则暂不支持通过DTS迁移数据。

  • 为什么数据量不一致?

    • 若源库中的某些Key使用了过期(Expire)策略,由于可能存在Key已过期但未被及时删除的情况,所以目标库中的Key数量可能会比源库少。

    • 对于List列表,由于DTS在调用PSYNCSYNC传输数据时,不会对目标端已有的数据执行FLUSH操作,所以可能出现重复的数据。

    • 若在执行全量迁移过程中网络中断,DTS可能会执行多次全量迁移(会自动覆盖同名Key),若在此时对源库执行删除操作,则该命令不会被同步到目标库。可能会造成目标库大于源库的情况。

  • 为什么会检查Redis逐出策略是否为noeviction

    由于云数据库Redis版的默认数据逐出策略(maxmemory-policy)为volatile-lru,若目标数据库内存不足,触发数据逐出会导致目标库与源库数据不一致的情况,但不会影响任务的正常运行。为避免该情况发生,建议将目标库的数据逐出策略设置为noeviction,当目标库内存不足时,数据会写入失败,同时任务也会失败,但目标库不会因为数据逐出而丢失数据。关于数据逐出策略详情,请参见Redis数据逐出策略介绍

  • 源库中为什么会有DTS_REDIS_TIMESTAMP_HEARTBEAT

    为保障迁移、同步质量,DTS会在源库中插入一个前缀为DTS_REDIS_TIMESTAMP_HEARTBEAT的Key用于记录更新时间点,若源库为集群架构,DTS会在各个shard上均插入该Key。DTS在执行任务过程中会过滤该Key,该Key会在任务结束时自动过期。

  • 为什么会报错CROSSSLOT Keys in request don't hash to the same slot

    若目标为集群架构实例,Redis存在限制:不支持在单个命令中执行跨Slot的操作。建议在DTS同步过程中仅执行单Key操作,以免导致链路中断。

  • 支持同步哪些命令?

    • 支持如下命令:

      • APPEND

      • BITOP、BLPOP、BRPOP、BRPOPLPUSH

      • DECR、DECRBY、DEL

      • EVAL、EVALSHA、EXEC、EXPIRE、EXPIREAT

      • GEOADD、GETSET

      • HDEL、HINCRBY、HINCRBYFLOAT、HMSET、HSET、HSETNX

      • INCR、INCRBY、INCRBYFLOAT

      • LINSERT、LPOP、LPUSH、LPUSHX、LREM、LSET、LTRIM

      • MOVE、MSET、MSETNX、MULTI

      • PERSIST、PEXPIRE、PEXPIREAT、PFADD、PFMERGE、PSETEX

      • RENAME、RENAMENX、RESTORE、RPOP、RPOPLPUSH、RPUSH、RPUSHX

      • SADD、SDIFFSTORE、SELECT、SET、SETBIT、SETEX、SETNX、SETRANGE、SINTERSTORE、SMOVE、SPOP、SREM、SUNIONSTORE

      • ZADD、ZINCRBY、ZINTERSTORE、ZREM、ZREMRANGEBYLEX、ZUNIONSTORE、ZREMRANGEBYRANK、ZREMRANGEBYSCORE

      • SWAPDB、UNLINK(仅当源端Redis实例的版本为4.0时支持)

      • XADD、XCLAIM、XDEL、XAUTOCLAIM、XGROUP CREATECONSUMER、XTRIM

    • 不支持同步PUBLISH命令。

    • 对于通过EVAL或者EVALSHA调用Lua脚本,在增量数据同步时,由于目标端在执行脚本时不会明确返回执行结果,DTS无法确保该类型脚本能够执行成功。