すべてのプロダクト
Search
ドキュメントセンター

Data Transmission Service:ApsaraDB RDS for MySQLインスタンスからApsaraDB for ClickHouseクラスターへのデータの同期

最終更新日:Oct 30, 2024

ApsaraDB for ClickHouseは、クエリのオンライン分析処理 (OLAP) 用の列指向データベース管理システム (DBMS) です。 ApsaraDB for ClickHouseは、他の分析データベースよりも1桁速い速度で、幅広いテーブルに対する集計クエリを提供します。 Data Transmission Service (DTS) を使用して、自己管理型MySQLデータベースやApsaraDB RDS for MySQLインスタンスなどのMySQLデータベースからApsaraDB for ClickHouseクラスターにデータを同期できます。 これにより、データを簡単に転送および分析できます。 このトピックでは、ApsaraDB RDS for MySQLインスタンスからApsaraDB for ClickHouseクラスターにデータを同期する方法について説明します。

前提条件

  • V20.8以降のApsaraDB for ClickHouseクラスターが作成されます。 詳細については、「ApsaraDB For ClickHouseクラスターの作成」をご参照ください。

    説明

    ターゲットApsaraDB for ClickHouseクラスターの使用可能なストレージ容量が、ソースApsaraDB RDS for MySQLインスタンスのデータの合計サイズよりも大きいこと。

  • データを受信するために、ターゲットApsaraDB for ClickHouseクラスターにデータベースが作成されます。 詳細については、「データベースの作成」をご参照ください。

    重要

    同期元のApsaraDB for ClickHouseクラスターのデータベースに、同期元のApsaraDB RDS for MySQLインスタンスで同期するデータを格納するデータベースと同じ名前を指定することを推奨します。 それ以外の場合は、名前マッピング機能を使用して、オブジェクトの設定と詳細設定 ステップの 選択中のオブジェクト セクションで、ソースデータベースの名前をターゲットデータベースの名前にマップする必要があります。 詳細については、「マップオブジェクト名」をご参照ください。

使用上の注意

カテゴリ

説明

ソースデータベースの制限

  • ソースデータベースから同期されるテーブルには、主キーが含まれている必要があります。

  • 同期するオブジェクトとしてテーブルを選択し、テーブルや列の名前の変更など、テーブルを変更する必要がある場合は、1つのデータ同期タスクで最大1,000のテーブルを同期できます。 タスクを実行して1,000を超えるテーブルを同期すると、リクエストエラーが発生します。 この場合、テーブルを分割し、複数のタスクを構成してテーブルをバッチで同期するか、タスクを構成してデータベース全体を同期することをお勧めします。

  • バイナリログの次の要件を満たす必要があります。

    • デフォルトでは、ApsaraDB RDS for MySQLインスタンスに対してバイナリログ機能が有効になっています。 binlog_row_imageパラメーターがfullに設定されていることを確認します。 それ以外の場合、事前チェック中にエラーメッセージが返され、データ同期タスクを開始できません。 詳細は、「インスタンスパラメーターの変更」をご参照ください。

      重要
      • ソースデータベースが自己管理型MySQLデータベースの場合、バイナリログ機能を有効にし、binlog_formatパラメーターをrowに設定し、binlog_row_imageパラメーターをfullに設定する必要があります。

      • ソースデータベースがデュアルプライマリクラスタにデプロイされた自己管理型MySQLデータベースである場合、log_slave_updatesパラメーターをONに設定する必要があります。 これにより、DTSはすべてのバイナリログを取得できます。 詳細については、「自己管理型MySQLデータベースのアカウントの作成とバイナリログの設定」をご参照ください。

    • ソースデータベースのバイナリログは、少なくとも7日間保存する必要があります。 そうしないと、DTSがバイナリログを取得できないため、データ同期タスクが失敗する可能性があります。 例外的な状況では、データの不整合または損失が発生します。 上記の要件に基づいて、バイナリログの保持期間を設定してください。 そうしないと、DTSのサービスレベル契約 (SLA) に記載されているサービスの信頼性またはパフォーマンスが保証されない場合があります。 ApsaraDB RDS For MySQLインスタンスのバイナリログファイルを管理する方法の詳細については、「バイナリログファイルの管理」をご参照ください。

  • スキーマ同期および完全データ同期中は、DDL文を実行してデータベースまたはテーブルのスキーマを変更しないでください。 それ以外の場合、データ同期タスクは失敗します。

その他の制限

  • ソースApsaraDB RDS for MySQLインスタンスで実行されるDDL文が標準のMySQL構文に準拠していない場合、同期タスクが失敗するか、データが失われる可能性があります。

  • RENAME TABLE操作は同期できません。

  • ソースApsaraDB RDS for MySQLインスタンスのDATETIMEデータは、ターゲットApsaraDB for ClickHouseクラスターでサポートされている時間範囲内である必要があります。 それ以外の場合、ソースデータベースとターゲットデータベース間でデータの不一致が発生します。 詳細については、このトピックの「時間範囲」セクションをご参照ください。

  • パーティションキーパラメーターの選択した列はすべて空でないフィールドである必要があります。 それ以外の場合、同期タスクは失敗します。

  • 最大256のデータベースをApsaraDB for ClickHouseクラスターに同期できます。

  • 同期するデータベース、テーブル、および列の名前は、ApsaraDB for ClickHouseの命名規則に準拠している必要があります。 詳細については、「制限」トピックの「オブジェクトの命名規則の制限」セクションをご参照ください。

  • スキーマ同期中、DTSは自動的に _versionフィールドと _signまたはis_deletedフィールドを宛先テーブルに追加します。 データ同期タスクを設定するときに、同期タイプ パラメーターに スキーマ同期 を選択しない場合、ターゲットデータベースのデータを受信するテーブルを手動で作成し、テーブルに追加のフィールドを追加する必要があります。 詳細については、このトピックの「テーブルとフィールド」セクションをご参照ください。

  • データを同期する前に、ソースデータベースとターゲットデータベースのパフォーマンスに対するデータ同期の影響を評価します。 オフピーク時にデータを同期することを推奨します。 完全データ同期中、DTSはソースデータベースとターゲットデータベースの読み取りおよび書き込みリソースを使用します。 これにより、データベースサーバーの負荷が増加する可能性があります。

  • 同期するオブジェクトとしてデータベース全体ではなく1つ以上のテーブルを選択した場合、データ同期中にテーブルに対してDDL操作を実行するためにpt-online-schema-changeなどのツールを使用しないでください。 そうしないと、データの同期に失敗する可能性があります。

    データ管理 (DMS) を使用して、オンラインDDL操作を実行できます。 詳細については、「ロックフリーDDL操作の実行」をご参照ください。

  • データ同期中に他のソースからのデータがターゲットデータベースに書き込まれると、ソースデータベースとターゲットデータベース間のデータの不一致が発生します。

  • ソースデータベースがEncDB機能が有効になっているApsaraDB RDS for MySQLインスタンスの場合、完全なデータ同期は実行できません。

特別なケース

  • ソースデータベースが自己管理型MySQLデータベースの場合、次の項目に注意してください。

    • データ同期タスクの実行中にソースデータベースでプライマリ /セカンダリの切り替えを実行すると、タスクは失敗します。

    • DTSは、同期先データベースの最新の同期データのタイムスタンプとソースデータベースの現在のタイムスタンプに基づいて同期レイテンシを計算します。 ソースデータベースでDML操作が長時間実行されない場合、同期レイテンシが不正確になる可能性があります。 データ同期タスクのレイテンシが高すぎる場合は、ソースデータベースでDML操作を実行してレイテンシを更新できます。

      説明

      同期するオブジェクトとしてデータベース全体を選択した場合は、ハートビートテーブルを作成できます。 ハートビートテーブルは1秒ごとに更新されるか、データを受信します。

    • DTSは、CREATE DATABASE IF NOT EXISTS 'test' ステートメントをソースデータベースで実行し、バイナリログファイルの位置を前に移動します。

  • ソースデータベースがApsara RDS for MySQLインスタンスの場合、次の項目に注意してください。

    読み取り専用のApsaraDB RDS for MySQL 5.6インスタンスなど、トランザクションログを記録しないApsaraDB RDS for MySQLインスタンスは、ソースデータベースとして使用できません。

課金

同期タイプ

タスク設定料金

スキーマ同期と完全データ同期

無料です。

増分データ同期

有料。 詳細については、「課金の概要」をご参照ください。

同期可能なSQL操作

操作タイプ

SQL文

DML

挿入、更新、および削除

DDL

  • CREATE TABLE

  • TRUNCATE TABLE

  • テーブルの変更

  • コラムを追加

  • 変更コラム

  • ドロップテーブルとドロップコラム

データ型マッピング

ApsaraDB RDS for MySQLインスタンスとApsaraDB for ClickHouseクラスターでサポートされているデータ型は、1対1で対応していません。 初期スキーマ同期中、DTSは、宛先データベースでサポートされているデータ型に基づいて、ソースフィールドと宛先フィールドの間のマッピングを確立します。 詳細については、「スキーマ同期のためのデータ型マッピング」をご参照ください。

データベースアカウントに必要な権限

データベースタイプ

必要な権限

関連ドキュメント

ApsaraDB RDS for MySQLインスタンスのソース

同期するオブジェクトの読み取り権限。

アカウントの作成アカウントの権限の変更

ターゲットApsaraDB for ClickHouseクラスター

  • ClickHouse V22.8以降を実行するApsaraDB for ClickHouseクラスター: ターゲットデータベースに対する読み取りおよび書き込み権限。 特権アカウントには必要な要件があります。

  • ClickHouse V21.8を実行するApsaraDB for ClickHouseクラスター: 権限の読み取り、書き込み、設定およびDDLの有効化

ApsaraDB for ClickHouseクラスターのデータベースアカウントの管理

説明

使用するソースデータベースアカウントがApsaraDB RDS for MySQLコンソールを使用して作成および承認されていない場合は、アカウントにREPLICATION CLIENT、REPLICATION SLAVE、SHOW VIEW、およびSELECT権限があることを確認してください。

手順

  1. [データ同期タスク] ページに移動します。

    1. DMSコンソールにログインします。

    2. 上部のナビゲーションバーで、ポインタをデータ开発上に移動します。

    3. DTS (DTS) > データ同期を選択します。

    説明
  2. データ同期タスクの右側で、データ同期インスタンスが存在するリージョンを選択します。

    説明

    新しいDTSコンソールを使用する場合は、上部のナビゲーションバーでデータ同期タスクを作成するリージョンを選択します。

  3. [タスクの作成] をクリックします。 [タスクの作成] ページで、ソースデータベースとターゲットデータベースを設定します。 次の表にパラメーターを示します。

    セクション

    パラメーター

    説明

    非該当

    タスク名

    DTSタスクの名前。 タスク名は自動生成されます。 タスクを簡単に識別できるように、わかりやすい名前を指定することをお勧めします。 一意のタスク名を指定する必要はありません。

    移行元データベース

    既存の DMS データベースインスタンスを選択します。(任意です。DMS データベースインスタンスが未登録の場合は、このオプションを無視して、以下のセクションでデータベース設定を行ってください。)

    使用するデータベースインスタンス。 ビジネス要件に基づいて、既存のインスタンスを使用するかどうかを選択できます。

    • 既存のインスタンスを選択すると、DTSはデータベースのパラメーターを自動的に入力します。

    • 既存のインスタンスを選択しない場合は、次のデータベース情報を設定する必要があります。

    データベースタイプ

    移行元ディスクのタイプを設定します。 MySQL を選択します。

    アクセス方法

    ソースデータベースのアクセス方法。 Alibaba Cloud インスタンス を選択します。

    インスタンスのリージョン

    ソースApsaraDB RDS for MySQLインスタンスが存在するリージョンです。

    Alibaba Cloud アカウント間でデータを複製

    Alibaba Cloudアカウント間でデータを同期するかどうかを指定します。 この例では、× が選択されています。

    RDS インスタンス ID

    ソースApsaraDB RDS for MySQLインスタンスのID。

    データベースアカウント

    ソースApsaraDB RDS for MySQLインスタンスのデータベースアカウント。 アカウントに必要な権限の詳細については、このトピックの「データベースアカウントに必要な権限」をご参照ください。

    データベースのパスワード

    データベースインスタンスへのアクセスに使用されるパスワード。

    暗号化

    データベースへの接続を暗号化するかどうかを指定します。 ビジネス要件に基づいて、[非暗号化] または [SSL暗号化] を選択できます。 このパラメーターをSSL暗号化に設定する場合、DTSタスクを設定する前に、ApsaraDB RDS for MySQLインスタンスのSSL暗号化を有効にする必要があります。 詳細については、「クラウド証明書を使用したSSL暗号化の有効化」をご参照ください。

    移行先データベース

    既存の DMS データベースインスタンスを選択します。(任意です。DMS データベースインスタンスが未登録の場合は、このオプションを無視して、以下のセクションでデータベース設定を行ってください。)

    使用するデータベースインスタンス。 ビジネス要件に基づいて、既存のインスタンスを使用するかどうかを選択できます。

    • 既存のインスタンスを選択すると、DTSはデータベースのパラメーターを自動的に入力します。

    • 既存のインスタンスを選択しない場合は、次のデータベース情報を設定する必要があります。

    データベースタイプ

    ターゲットデータベースのタイプ。 ClickHouse を選択します。

    アクセス方法

    ターゲットデータベースのアクセス方法。 Alibaba Cloud インスタンス を選択します。

    インスタンスのリージョン

    ターゲットApsaraDB for ClickHouseクラスターが存在するリージョン。

    Alibaba Cloud アカウント間でデータを複製

    Alibaba Cloudアカウント間でデータを同期するかどうかを指定します。 この例では、× が選択されています。

    クラスタータイプ

    ターゲットApsaraDB for ClickHouseクラスターのタイプ。

    クラスター ID

    ターゲットApsaraDB for ClickHouseクラスターのID。

    データベースアカウント

    ターゲットApsaraDB for ClickHouseクラスターのデータベースアカウント。 データベースアカウントに必要な権限の詳細については、このトピックの「データベースアカウントに必要な権限」をご参照ください。

    データベースのパスワード

    データベースインスタンスへのアクセスに使用されるパスワード。

  4. ページの下部で、接続性をテストして続行をクリックします。

    ソースまたはターゲットデータベースがAlibaba Cloudデータベースインスタンス (ApsaraDB RDS for MySQLインスタンスやApsaraDB for MongoDBインスタンスなど) の場合、DTSは自動的にDTSサーバーのCIDRブロックをインスタンスのホワイトリストに追加します。 ソースデータベースまたはターゲットデータベースがElastic Compute Service (ECS) インスタンスでホストされている自己管理データベースの場合、DTSサーバーのCIDRブロックがECSインスタンスのセキュリティグループルールに自動的に追加されます。ECSインスタンスがデータベースにアクセスできることを確認する必要があります。 データベースが複数のECSインスタンスにデプロイされている場合、DTSサーバーのCIDRブロックを各ECSインスタンスのセキュリティグループルールに手動で追加する必要があります。 ソースデータベースまたはターゲットデータベースが、データセンターにデプロイされているか、サードパーティのクラウドサービスプロバイダーによって提供される自己管理データベースである場合、DTSサーバーのCIDRブロックをデータベースのホワイトリストに手動で追加して、DTSがデータベースにアクセスできるようにする必要があります。 詳細については、「DTSサーバーのCIDRブロックの追加」トピックの「DTSサーバーのCIDRブロック」セクションをご参照ください。

    警告

    DTSサーバーのCIDRブロックがデータベースまたはインスタンスのホワイトリスト、またはECSセキュリティグループルールに自動的または手動で追加されると、セキュリティリスクが発生する可能性があります。 したがって、DTSを使用してデータを同期する前に、潜在的なリスクを理解して認識し、次の対策を含む予防策を講じる必要があります。VPNゲートウェイ、またはSmart Access Gateway。

  5. 同期するオブジェクトと詳細設定を構成します。 次の表にパラメーターを示します。

    パラメーター

    説明

    同期タイプ

    同期タイプ。 デフォルトでは、増分データ同期が選択されています。 [スキーマ同期] および [完全データ同期] も選択する必要があります。 事前チェックが完了すると、DTSは選択したオブジェクトの履歴データをソースデータベースからターゲットクラスターに同期します。 履歴データは、その後の増分同期の基礎となる。

    競合するテーブルの処理モード

    • エラーの事前チェックと報告: ターゲットデータベースに、ソースデータベースのテーブルと同じ名前のテーブルが含まれているかどうかを確認します。 ソースデータベースとターゲットデータベースに同じテーブル名のテーブルが含まれていない場合は、事前チェックに合格します。 それ以外の場合、事前チェック中にエラーが返され、データ同期タスクを開始できません。

      説明

      ソースデータベースとターゲットデータベースに同じ名前のテーブルが含まれていて、ターゲットデータベース内のテーブルを削除または名前変更できない場合は、オブジェクト名マッピング機能を使用して、ターゲットデータベースに同期されるテーブルの名前を変更できます。 詳細については、「マップオブジェクト名」をご参照ください。

    • エラーを無視して続行: ソースデータベースとターゲットデータベースの同じテーブル名の事前チェックをスキップします。

      警告

      エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスが潜在的なリスクにさらされる可能性があります。

      • ソースデータベースとターゲットデータベースが同じスキーマを持ち、ターゲットデータベースのデータレコードがソースデータベースのデータレコードと同じ主キー値または一意キー値を持つ場合:

        • 完全データ同期中、DTSはデータレコードをターゲットデータベースに同期しません。 ターゲットデータベースの既存のデータレコードが保持されます。

        • 増分データ同期中、DTSはデータレコードをターゲットデータベースに同期します。 ターゲットデータベースの既存のデータレコードが上書きされます。

      • ソースデータベースとターゲットデータベースのスキーマが異なる場合、データの初期化に失敗する可能性があります。 この場合、一部の列のみが同期されるか、データ同期タスクが失敗します。 作業は慎重に行ってください。

    移行先インスタンスでのオブジェクト名の大文字化

    ターゲットインスタンスのデータベース名、テーブル名、および列名の大文字化。 デフォルトでは、DTSデフォルトポリシーが選択されています。 他のオプションを選択して、オブジェクト名の大文字化をソースまたはターゲットデータベースの大文字化と一致させることができます。 詳細については、「ターゲットインスタンスのオブジェクト名の大文字化の指定」をご参照ください。

    ソースオブジェクト

    ソースオブジェクト セクションから1つ以上のオブジェクトを選択し、向右アイコンをクリックして 選択中のオブジェクト セクションにオブジェクトを追加します。

    説明

    同期するオブジェクトとして、列、テーブル、およびデータベースを選択できます。

    選択中のオブジェクト

    • 同期先のインスタンスに同期するオブジェクトの名前を変更するには、選択中のオブジェクト セクションでオブジェクトを右クリックします。 詳細については、「オブジェクト名のマップ」トピックの「単一オブジェクトの名前のマップ」セクションをご参照ください。

    • 一度に複数のオブジェクトの名前を変更するには、選択中のオブジェクト セクションの右上隅にある 一括編集 をクリックします。 詳細については、「オブジェクト名のマップ」トピックの「一度に複数のオブジェクト名をマップする」セクションをご参照ください。

    説明
    • 指定した条件を満たすデータを同期するフィルター条件を指定するには、選択中のオブジェクト セクションで同期するテーブルを右クリックします。 表示されるダイアログボックスで、1つ以上のSQL条件を入力します。 詳細については、「フィルター条件の指定」をご参照ください。

    • オブジェクト名マッピング機能を使用して、データが同期されるデータベースまたはコレクションの名前を変更すると、データベースまたはコレクションに依存する他のオブジェクトの同期が失敗する可能性があります。

  6. [次へ:詳細設定] をクリックして詳細設定を構成します。

    パラメーター

    説明

    タスクのスケジュールに使用する専用クラスターの選択

    デフォルトでは、DTSはタスクを共有クラスターにスケジュールします。 このパラメーターを設定する必要はありません。 データ同期タスクの安定性を向上させたい場合は、専用クラスターを購入してください。 詳細については、「DTS専用クラスターの概要」をご参照ください。

    アラートの設定

    データ同期タスクのアラートを設定するかどうかを指定します。 タスクが失敗するか、同期レイテンシが指定されたしきい値を超えると、アラート送信先は通知を受け取ります。 有効な値:

    失敗した接続の再試行時間

    失敗した接続のリトライ時間範囲。 データ同期タスクの開始後にソースデータベースまたはターゲットデータベースの接続に失敗した場合、DTSはその時間範囲内ですぐに接続を再試行します。 有効な値: 10 ~ 1440 単位は分です。 デフォルト値: 720 このパラメーターを30より大きい値に設定することを推奨します。 DTSが指定された時間範囲内にソースデータベースとターゲットデータベースに再接続すると、DTSはデータ同期タスクを再開します。 それ以外の場合、データ同期タスクは失敗します。

    説明
    • ソースまたはターゲットデータベースが同じである複数のデータ同期タスクに対して異なるリトライ時間範囲を指定した場合、最も短いリトライ時間範囲が優先されます。

    • DTSが接続を再試行すると、DTSインスタンスに対して課金されます。 業務要件に基づいて再試行時間範囲を指定することを推奨します。 ソースインスタンスとターゲットインスタンスがリリースされた後、できるだけ早くDTSインスタンスをリリースすることもできます。

    移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。

    その他の問題の再試行時間範囲。 たとえば、データ同期タスクの開始後にDDLまたはDML操作の実行に失敗した場合、DTSはその時間範囲内ですぐに操作を再試行します。 有効な値: 1 ~ 1440 単位は分です。 デフォルト値は 10 です。 このパラメーターを10より大きい値に設定することを推奨します。 指定された時間範囲内で失敗した操作が正常に実行されると、DTSはデータ同期タスクを再開します。 それ以外の場合、データ同期タスクは失敗します。

    重要

    移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 パラメーターの値は、失敗した接続の再試行時間 パラメーターの値よりも小さくする必要があります。

    完全移行率を制限するかどうか

    完全データ同期中、DTSはソースデータベースとターゲットデータベースの読み取りおよび書き込みリソースを使用します。 これにより、データベースサーバーの負荷が増加する可能性があります。 1 秒あたりのソースデータベースのクエリ率 QPS1 秒あたりの完全移行の行数 RPS、および1 秒あたりの完全移行データ量 (MB) BPS パラメーターを設定して、ターゲットデータベースサーバーの負荷を軽減できます。

    説明

    このパラメーターは、同期タイプ パラメーターで 完全データ同期 が選択されている場合にのみ表示されます。

    増分同期率を制限するかどうか

    増分データ同期のスロットリングを有効にするかどうかを指定します。 ビジネス要件に基づいて、増分データ同期のスロットリングを有効にできます。 スロットリングを設定するには、1 秒あたりの増分同期の行数 RPSおよび1 秒あたりの増分同期データ量 (MB) BPS パラメーターを設定する必要があります。 これにより、移行先データベースサーバーの負荷が軽減されます。

    環境タグ

    DTSインスタンスを識別するために使用される環境タグ。 ビジネス要件に基づいて環境タグを選択できます。 この例では、このパラメーターを設定する必要はありません。

    ETL の設定

    抽出、変換、および読み込み (ETL) 機能を有効にするかどうかを指定します。 詳細については、「ETLとは何ですか?」をご参照ください。 有効な値:

    順方向および逆方向タスクのハートビートテーブル sql を削除

    DTSインスタンスの実行中に、ハートビートテーブルのSQL操作をソースデータベースに書き込むかどうかを指定します。 有効な値:

    • Yes: ハートビートテーブルにSQL操作を書き込みません。 この場合、DTSインスタンスのレイテンシが表示され得る。

    • No: ハートビートテーブルにSQL操作を書き込みます。 この場合、ソースデータベースの物理バックアップやクローニングなどの機能が影響を受ける可能性があります。

  7. 次:データベースおよびテーブルのフィールド設定 をクリックし、ApsaraDB for ClickHouseクラスターのターゲットテーブルの タイププライマリキー列の追加ソートキー配布キーパーティションキー パラメーターを設定します。

    説明
    • デフォルトでは、これらのパラメータはDTSによって設定されます。 パラメーターを変更するには、定義ステータス パラメーターを すべて に設定します。

    • プライマリキー列の追加ソートキーは複合キーにすることができます。 対応するドロップダウンリストから、プライマリキー列の追加またはソートキーパラメーターに複数の列を選択できます。 プライマリキー列の追加パラメーターに指定した1つ以上の列をパーティションキーパラメーターに選択できます。 配布キーパラメーターに選択できる列は1つだけです。 詳細については、「CREATE TABLE」をご参照ください。

    • パーティションキーパラメーターはオプションです。 ただし、このパラメーターを設定する場合、Partition Keyパラメーターの選択したすべての列は空でないフィールドである必要があります。 それ以外の場合、同期タスクは失敗します。

  8. タスク設定を保存し、事前チェックを実行します。

    • 関連するAPI操作を呼び出してDTSタスクを設定するときに指定するパラメーターを表示するには、ポインターを 次:タスク設定の保存と事前チェック に移動し、OpenAPI パラメーターのプレビュー をクリックします。

    • パラメーターを表示または表示する必要がない場合は、ページ下部の 次:タスク設定の保存と事前チェック をクリックします。

    説明
    • データ同期タスクを開始する前に、DTSは事前チェックを実行します。 データ同期タスクは、タスクが事前チェックに合格した後にのみ開始できます。

    • データ同期タスクが事前チェックに失敗した場合は、失敗した各項目の横にある [詳細の表示] をクリックします。 チェック結果に基づいて原因を分析した後、問題のトラブルシューティングを行います。 次に、プレチェックを再実行します。

    • 事前チェック中にアイテムに対してアラートがトリガーされた場合:

      • アラートアイテムを無視できない場合は、失敗したアイテムの横にある [詳細の表示] をクリックして、問題のトラブルシューティングを行います。 次に、もう一度プレチェックを実行します。

      • アラート項目を無視できる場合は、[アラート詳細の確認] をクリックします。 [詳細の表示] ダイアログボックスで、[無視] をクリックします。 表示されたメッセージボックスで、[OK] をクリックします。 次に、[再度事前チェック] をクリックして、事前チェックを再度実行します。 アラート項目を無視すると、データの不整合が発生し、ビジネスが潜在的なリスクにさらされる可能性があります。

  9. 成功率100% になるまで待ちます。 次に、[次へ: インスタンスの購入] をクリックします。

  10. 購入ページで、データ同期インスタンスの課金方法とインスタンスクラスのパラメーターを設定します。 下表にパラメーターを示します。

    セクション

    パラメーター

    説明

    新しいインスタンスクラス

    Billing Method

    • サブスクリプション: データ同期インスタンスの作成時にサブスクリプションの料金を支払います。 サブスクリプションの課金方法は、長期使用の場合、従量課金の課金方法よりも費用対効果が高くなります。

    • 従量課金: 従量課金インスタンスは1時間ごとに課金されます。 従量課金方法は、短期使用に適しています。 従量課金データ同期インスタンスが不要になった場合は、インスタンスをリリースしてコストを削減できます。

    リソースグループの設定

    データ同期インスタンスが属するリソースグループ。 デフォルト値: Default resource group 詳細については、「リソース管理とは 」をご参照ください。

    インスタンスクラス

    DTSは、同期速度が異なるインスタンスクラスを提供します。 ビジネス要件に基づいてインスタンスクラスを選択できます。 詳細については、「データ同期インスタンスのインスタンスクラス」をご参照ください。

    サブスクリプション期間

    サブスクリプションの課金方法を選択した場合は、サブスクリプション期間と作成するデータ同期インスタンスの数を指定します。 サブスクリプション期間は、1〜9か月、1年、2年、3年、または5年とすることができる。

    説明

    このパラメーターは、サブスクリプション の課金方法を選択した場合にのみ使用できます。

  11. 読み取りと選択データ伝送サービス (従量課金) サービス規約.

  12. [購入して開始] をクリックします。 表示されるダイアログボックスで、OK をクリックします。

    タスクリストでタスクの進行状況を確認できます。

付録

時間範囲

データ型

最小値

最大値

日付

1970-01-01 00:00:00

2149-06-06 00:00:00

Date32

1925-01-01 00:00:00

2283-11-11 00:00:00

DateTime

1970-01-01 08:00:00

2106-02-07 14:28:15

DateTime64

1925-01-01 08:00:00

2283-11-12 07:59:59

テーブルとフィールド

テーブル

オブジェクト名マッピング機能を使用しない場合は、作成するテーブルが次の要件を満たしていることを確認してください。

  • ターゲットデータベースがApsaraDB for ClickHouse Community-compatible Editionクラスターの場合、ローカルテーブルと分散テーブルを作成する必要があります。 分散テーブルの名前は、ソーステーブルの名前と同じである必要があります。 ローカルテーブルの名前は、<Distributed table name> _local形式です。

  • ターゲットデータベースがApsaraDB for ClickHouse Enterprise Editionクラスターの場合、ソーステーブルと同じ名前のテーブルを作成する必要があります。

フィールド

説明
  • ターゲットデータベースがClickHouse V23.8以前を実行するApsaraDB for ClickHouse Community-compatible Editionクラスターである場合、select * from table_name final where _sign>0; ステートメントを実行してデータを照会できます。 このステートメントでは、WHERE句を使用して削除されたデータをフィルタリングし、テーブル名の後ろの最後のフィールドを使用して同じソートキーでデータをフィルタリングすることができます。

  • ターゲットデータベースが、ClickHouse V23.8以降を実行するApsaraDB for ClickHouse Enterprise EditionクラスターまたはApsaraDB for CLickHouse Community-compatible Editionクラスターの場合、対応するSQL文を実行してデータを照会できます。 同じソートキーでデータをフィルタリングするには、テーブル名の後ろにfinalフィールドを追加します。

データベースのエディションとバージョン

項目

データ型

デフォルト値

説明

ClickHouse V23.8以前を実行するApsaraDB for ClickHouse Community-compatible Editionクラスター

_sign

Int8

1

DML操作のタイプ。 有効な値:

  • 1: INSERT操作。

  • 1: UPDATE操作。

  • -1: DELETE操作。

_バージョン

UInt64

1

データがClickHouseクラスターに書き込まれる時刻。

ClickHouse V23.8以降を実行するApsaraDB for ClickHouse Enterprise EditionクラスターまたはApsaraDB for CLickHouse Community-compatible Editionクラスター

is_deleted

Int8

0

データレコードを削除するかどうかを指定します。 有効な値:

  • 0: データレコードが挿入されます。

  • 1: データレコードが削除されます。

  • 0: データレコードが更新されます。

_バージョン

UInt64

1

データがClickHouseクラスターに書き込まれる時刻。