すべてのプロダクト
Search
ドキュメントセンター

Data Transmission Service:PolarDB-X 1.0インスタンスからのデータ変更の追跡

最終更新日:Nov 04, 2024

このトピックでは、変更追跡タスクを作成してからのデータ変更を追跡する方法について説明します。 データ伝送サービス (DTS) を使用したPolarDB-X 1.0インスタンス。

前提条件

  • HTTP ステータスコードが PolarDB-X 1.0インスタンスが作成されました。 詳細については、次をご参照ください: PolarDB-X 1.0インスタンスの作成データベースの作成

    説明

    のストレージタイプです。The storage type of the PolarDB-X 1.0インスタンスは、カスタムApsaraDB RDSインスタンスまたは購入済みApsaraDB RDSインスタンスなど、ApsaraDB RDS for MySQLである必要があります。 PolarDB for MySQLはストレージタイプとして使用できません。

  • ApsaraDB RDS for MySQLインスタンスがクラシックネットワークタイプの場合、ApsaraDB RDS for MySQLインスタンスに内部エンドポイントが設定されます。

制限事項

カテゴリ

説明

ソースデータベースの制限

  • ソーステーブルにはPRIMARY KEYまたはUNIQUE制約が必要であり、すべてのフィールドが一意である必要があります。 そうでない場合、DTSは重複データ変更を追跡し得る。 DTSでは、UNIQUE制約のみを持つテーブルのスキーマ更新を追跡することはできません。 PRIMARY KEY制約があるテーブルを選択することを推奨します。

  • 追跡するオブジェクトとしてテーブルを選択した場合、1回の変更追跡タスクで最大500のテーブルを追跡できます。 変更追跡タスクを実行して500を超えるテーブルを追跡すると、リクエストエラーが発生します。 この場合、複数のタスクを構成してテーブルをバッチで追跡するか、データベース全体の変更追跡タスクを構成することをお勧めします。

  • にアタッチされたApsaraDB RDS for MySQLインスタンスのバイナリログの次の要件 PolarDB-X 1.0インスタンスを満たす必要があります。

    • バイナリログ機能を有効にする必要があります。 binlog_row_imageパラメーターの値はfullに設定する必要があります。 それ以外の場合、事前チェック中にエラーメッセージが返され、変更追跡タスクを開始できません。

    • ソースデータベースのバイナリログは、24時間以上保存する必要があります。 そうしないと、DTSはバイナリログの取得に失敗し、タスクが失敗する可能性があります。 例外的な状況では、データの不整合または損失が発生します。 上記の要件に基づいて、バイナリログの保持期間を設定してください。 それ以外の場合、DTSのサービスレベル契約 (SLA) はサービスの信頼性またはパフォーマンスを保証しません。

  • ソースインスタンスが読み取り専用インスタンスまたは一時インスタンスの場合、インスタンスにトランザクションログが記録されていることを確認します。

その他の制限

  • DTSがからのデータ変更を追跡する場合 PolarDB-X 1.0インスタンスでは、データはアタッチされたApsaraDB RDS for MySQLインスタンス全体に分散されます。 DTSは、ApsaraDB RDS for MySQLインスタンスごとにサブタスクを実行します。 サブタスクのステータスが [タスクトポロジ] ページに表示されます。

  • HTTP ステータスコードが PolarDB-X 1.0インスタンスは、データベースとテーブルシャーディングをサポートしています。 ソースに対してDDL操作が実行された場合 PolarDB-X 1.0インスタンスでは、すべてのテーブルシャードでDDL操作が実行されます。 各サブタスクの進行は、他のサブタスクの進行と一致しないことがある。 したがって、DTSによって追跡されるデータは、重複DDL動作を含み得る。 これらのDDL操作を複数回使用すると、変更追跡クライアントで例外が発生する可能性があります。 必要に応じて例外を処理することを推奨します。

  • 変更追跡のためのオブジェクトの制限:

    • データの変更は、テーブルレベルでのみ追跡できます。

    • 変更追跡タスクが設定された後、変更追跡のオブジェクトは再選択できません。 選択したオブジェクトに含まれていないテーブルのデータ変更を追跡する場合は、テーブルに対して別の変更追跡タスクを作成する必要があります。

  • 変更追跡タスクの実行中にソースデータベースでプライマリ /セカンダリの切り替えを実行すると、タスクは失敗します。

  • 変更追跡タスクが実行されている場合は、ソースインスタンスのスケールインまたはスケールアウト、頻繁にアクセスされるテーブルの移行、シャードの変更、またはDDL操作の実行を行わないでください。 それ以外の場合、変更追跡タスクは失敗するか、データの不整合が発生します。

  • ソースデータベースが実行中のデータ移行タスクなどの別のタスクで使用されている場合、DTSは他のオブジェクトのデータ変更を追跡できます。 この場合、変更追跡クライアントで追跡されたデータを手動でフィルタリングする必要があります。

  • FLOATまたはDOUBLEデータ型の列の精度設定がビジネス要件を満たしていることを確認します。 DTSはROUND(COLUMN,PRECISION) 関数を使用して、FLOATまたはDOUBLEデータ型の列から値を取得します。 精度を指定しない場合、DTSはFLOATデータ型の列の精度を38桁に設定し、DOUBLEデータ型の列の精度を308桁に設定します。

  • DTSは、pt-online-schema-changeを使用して実行されるDDL操作を追跡しません。 したがって、変更追跡クライアントは、スキーマの競合により、消費されたデータを宛先テーブルに書き込むことができない場合があります。

手順

  1. [追跡タスクの変更] ページに移動します。

    1. データ管理 (DMS) コンソール にログインします。

    2. 上部のナビゲーションバーで、[DTS] をクリックします。

    3. 左側のナビゲーションウィンドウで、[DTS (DTS)] > [追跡の変更] を選択します。

    説明
  2. [変更追跡タスク] の右側で、変更追跡タスクを作成するリージョンを選択します。

    説明

    新しいDTSコンソールを使用する場合は、DTSコンソールの [追跡タスクの変更] ページの [ワークベンチ] の右側にあるドロップダウンリストからリージョンを選択する必要があります。

  3. [タスクの作成] をクリックします。 表示されるページで、ソースデータベースインスタンスとコンシューマネットワークタイプを指定します。

    警告

    ソースデータベースインスタンスを指定した後、ページの上部に表示される制限を読むことを推奨します。 そうしないと、タスクが失敗するか、追跡されたデータを消費できません。

    セクション

    パラメーター

    説明

    非該当

    タスク名

    変更追跡タスクの名前。 DTSはタスクに名前を自動的に割り当てます。 タスクを簡単に識別できるように、わかりやすい名前を指定することをお勧めします。 一意のタスク名を使用する必要はありません。

    使用するデータベースインスタンス。 ビジネス要件に基づいて、既存のインスタンスを使用するかどうかを選択できます。

    • 既存のインスタンスを使用する場合、DTSはインスタンスのパラメーターを自動的に入力します。

      説明
      • テンプレートの接続設定を変更するには、[ソースデータベース] セクションの [既存のデータベース接続の選択] パラメーターを設定するときにテンプレートを編集します。

      • テンプレート名を編集するには、[ソースデータベース] セクションの下部にある [テンプレートの編集] をクリックします。

      • 変更された接続テンプレートは、次に接続テンプレートを選択したときに有効になります。 テンプレートを使用して構成したデータベースインスタンスは影響を受けません。

    • 既存のインスタンスを使用しない場合は、次のパラメーターを設定する必要があります。

    ソースデータベース

    既存のデータベース接続の選択

    データベースタイプ

    移行元ディスクのタイプを設定します。 [PolarDB-X 1.0] を選択します。

    アクセス方法

    ソースデータベースのアクセス方法。 [Alibaba Cloudインスタンス] を選択します。

    インスタンスリージョン

    のリージョンで、 PolarDB-X 1.0インスタンスが存在します。

    インスタンスID

    のIDは、 PolarDB-X 1.0インスタンス。

    データベースアカウント

    のデータベースアカウントです。 PolarDB-X 1.0インスタンス。 アカウントには、変更追跡用のオブジェクトに対する読み取り権限が必要です。

    データベースパスワード

    データベースインスタンスへのアクセスに使用されるパスワード。

    インスタンスとして保存またはテンプレートの編集

    このパラメーターは、[既存のデータベース接続の選択] パラメーターに既存のインスタンスを選択するかどうかに基づいて指定する必要があります。

    1. 既存のインスタンスを選択した場合、[テンプレートの編集] をクリックしてカスタムテンプレート名を指定できます。

      説明

      変更された接続テンプレートは、次に接続テンプレートを選択したときに有効になります。 テンプレートを使用して構成したデータベースインスタンスは影響を受けません。

    2. 既存のインスタンスを選択しない場合は、[インスタンスとして保存] をクリックします。 表示されるダイアログボックスで、データベース接続の名前を設定し、[OK] をクリックします。 データベースインスタンスの接続設定がテンプレートとして保存されます。

      説明

      データベース接続を簡単に識別できるように、わかりやすい名前を指定することをお勧めします。 一意の名前を使用する必要はありません。

    消費者ネットワークタイプ

    ネットワークタイプ

    [ネットワークタイプ] パラメーターの値は [VPC] に固定されています。 VPCvSwitchを選択する必要があります。 詳細は、「VPC」をご参照ください。

    説明
    • 変更追跡タスクを設定した後、[コンシューマーネットワークの種類] セクションの設定を変更することはできません。

    • 変更追跡クライアントがVPCにデプロイされている場合、クライアントに接続されている同じVPCvSwitchを選択することを推奨します。

    • 内部ネットワーク上のデータ変更を追跡する場合、ネットワーク遅延は最小限に抑えられます。

  4. ページの下部で、接続性をテストして続行をクリックします。

    、ソースデータベースインスタンスがApsaraDB RDS for MySQLまたはApsaraDB for MongoDBインスタンスなどのAlibaba Cloudデータベースインスタンスの場合、DTSは自動的に対応するリージョンのDTSサーバーのCIDRブロックをインスタンスのホワイトリストに追加します。 ソースデータベースインスタンスがECSインスタンス上でホストされている自己管理データベースである場合、DTSは、対応するリージョンのDTSサーバーのCIDRブロックをECSインスタンスのセキュリティグループルールに自動的に追加します。 DTSがデータベースにアクセスできるようにするには、対応するリージョンのDTSサーバーのCIDRブロックをデータベースのセキュリティ設定に手動で追加する必要もあります。 ソースデータベースインスタンスがデータセンターにデプロイされているか、サードパーティのクラウドサービスプロバイダーによって提供されている自己管理データベースの場合、対応するリージョンのDTSサーバーのCIDRブロックをデータベースのセキュリティ設定に手動で追加して、DTSがデータベースにアクセスできるようにする必要があります。 詳細については、「DTSサーバーのCIDRブロックの追加」の「DTSサーバーのCIDRブロック」セクションをご参照ください。

    警告

    DTSサーバーのパブリックCIDRブロックがデータベースインスタンスのホワイトリストまたはECSインスタンスのセキュリティグループルールに自動的または手動で追加されると、セキュリティリスクが発生する可能性があります。 したがって、DTSを使用してデータ変更を追跡する前に、潜在的なリスクを理解して認識し、次の対策を含む予防策を講じる必要があります。VPNゲートウェイ、またはSmart Access Gateway。

  5. 変更追跡と詳細設定のオブジェクトを設定します。

    • 基本設定

      パラメーター

      説明

      データ変更の種類

      • データ更新

        DTSは、INSERT、DELETE、およびUPDATE操作を含む、選択したオブジェクトのデータ更新を追跡します。

      • スキーマ更新

        DTSは、ソースインスタンスのすべてのオブジェクトスキーマで実行される作成、削除、および変更操作を追跡します。 変更追跡クライアントを使用して、追跡するデータをフィルタリングする必要があります。

      ソースオブジェクト

      [ソースオブジェクト] セクションから1つ以上のオブジェクトを選択し、Rightwards arrowアイコンをクリックして [選択済みオブジェクト] セクションにオブジェクトを追加します。

      説明
      • データの変更は、テーブルレベルでのみ追跡できます。

      • 変更追跡タスクが設定された後、変更追跡のオブジェクトは再選択できません。 選択したオブジェクトに含まれていないテーブルのデータ変更を追跡する場合は、テーブルに対して別の変更追跡タスクを作成する必要があります。

    • 詳細設定

      パラメーター

      説明

      セット

      変更追跡タスクのアラートを有効にするかどうかを指定します。 アラートが設定され、タスクが失敗するか、レイテンシがしきい値を超えると、アラート通知が送信されます。 有効な値:

      失敗した接続の再試行時間

      失敗した接続のリトライ時間範囲。 変更追跡タスクが失敗した場合、DTSはその時間範囲内ですぐに接続を再試行します。 有効な値: 10 ~ 1440 単位は分です。 デフォルト値: 720 パラメーターを30より大きい値に設定することを推奨します。 指定された時間範囲内にDTSがソースデータベースインスタンスに再接続された場合、DTSは変更追跡タスクを再開します。 それ以外の場合、変更追跡タスクは失敗します。

      説明
      • データベースインスタンスに対して複数の変更追跡タスクが設定されている場合、最短の再試行時間範囲が優先されます。 たとえば、タスクAとタスクBは同じデータベースインスタンスに設定されます。 タスクAは30分の再試行時間範囲で設定され、タスクBは60分の再試行時間範囲で設定されます。 この場合、30分のリトライ時間範囲が優先されます。

      • DTSが接続を再試行すると、料金が請求されます。 ビジネス要件に基づいて再試行時間範囲を指定するか、ソースデータベースインスタンスがリリースされた後、できるだけ早い機会にDTSインスタンスをリリースすることを推奨します。

  6. ページの下部にある [次へ: タスク設定と事前チェック] をクリックします。

    ポインタを 次:タスク設定の保存と事前チェック に移動し、[OpenAPIパラメーターのプレビュー] をクリックして、インスタンスを設定するために呼び出されるAPI操作のパラメーター設定を表示します。

    説明
    • 変更追跡タスクを開始する前に、DTSは事前チェックを実行します。 タスクが事前チェックに合格した後にのみ、変更追跡タスクを開始できます。

    • タスクが事前チェックに合格しなかった場合は、失敗した各項目の横にある [詳細の表示] をクリックします。 エラーメッセージに基づいて問題をトラブルシューティングした後、事前チェックを再度実行できます。

    • 事前チェック中にアイテムに対してアラートが生成された場合は、シナリオに基づいて次の操作を実行します。

      • アラートアイテムを無視できない場合は、失敗したアイテムの横にある [詳細の表示] をクリックして問題のトラブルシューティングを行います。 次に、もう一度プレチェックを実行します。

      • アラート項目を無視できる場合は、[アラート詳細の確認] をクリックします。 [詳細の表示] ダイアログボックスで、[無視] をクリックします。 表示されたメッセージボックスで、[OK] をクリックします。 次に、[再度事前チェック] をクリックして、事前チェックを再度実行します。 アラート項目を無視すると、データの不整合が発生し、ビジネスが潜在的なリスクにさらされる可能性があります。

  7. 成功率100% になるまで待ちます。 次に、[次へ: インスタンスの購入] をクリックします。

  8. [購入] ページで、変更追跡インスタンスの課金方法を指定します。 次の表にパラメーターを示します。

    パラメーター

    説明

    課金方法

    • サブスクリプション: インスタンスの作成時にサブスクリプションの料金を支払います。 サブスクリプションの課金方法は、長期使用の場合、従量課金の課金方法よりも費用対効果が高くなります。 サブスクリプション期間が長くなると、低価格が提供されます。

    • 従量課金: 従量課金インスタンスは1時間ごとに課金されます。 短期使用の場合は、従量課金の課金方法を選択することを推奨します。 従量課金インスタンスが不要になった場合は、インスタンスをリリースしてコストを削減できます。

    リソースグループ設定

    インスタンスが属するリソースグループ。 デフォルト値: Default resource group 詳細については、「リソース管理とは 」をご参照ください。

    サブスクリプション期間

    サブスクリプションの課金方法を選択した場合は、サブスクリプション期間と作成するインスタンスの数を設定します。 サブスクリプション期間は、1〜9か月、1年、2年、3年、または5年とすることができる。

    説明

    このパラメーターは、[サブスクリプション] の課金方法を選択した場合にのみ使用できます。

  9. 読み取りと選択データ伝送サービス (従量課金) サービス規約.

  10. [購入と開始] をクリックして、変更追跡タスクを開始します。 タスクリストでタスクの進行状況を確認できます。

次のステップ

変更追跡タスクが実行されているときに、ダウンストリームクライアントに基づいてコンシューマグループを作成し、追跡されたデータを消費できます。

  1. コンシューマーグループの作成および管理方法の詳細については、「コンシューマーグループの作成」をご参照ください。

  2. 次のいずれかの方法を使用して、追跡データを消費します。