このトピックでは、data Transmission Service (DTS) を使用して、自己管理型OracleデータベースからApsaraMQ for Kafkaインスタンスにデータを移行する方法について説明します。
前提条件
ソースの自己管理型OracleデータベースとターゲットのApsaraMQ for Kafkaインスタンスが作成されます。
説明ソースデータベースとターゲットインスタンスのサポートされているバージョンの詳細については、「データ移行シナリオの概要」をご参照ください。
自己管理型OracleデータベースはARCHIVELOGモードで実行されています。 アーカイブされたログファイルはアクセス可能であり、アーカイブされたログファイルに適切な保存期間が設定されます。 詳細については、『 アーカイブ REDO ログファイルの管理』をご参照ください。
自己管理型Oracleデータベースの補足ログ機能が有効になっており、SUPPLEMENTAL_LOG_DATA_PKおよびSUPPLEMENTAL_LOG_DATA_UIパラメーターはYesに設定されています。 詳細については、『サプリメンタルロギング』をご参照ください。
ターゲットApsaraMQ for Kafkaインスタンスの使用可能なストレージ容量は、自己管理型Oracleデータベースが占有するストレージ容量よりも大きくなっています。
移行先のApsaraMQ for Kafkaインスタンスで、移行されたデータを受け取るトピックが作成されます。 詳細については、「ステップ3: リソースの作成」トピックのステップ1: トピックの作成セクションをご参照ください。
Oracleデータベースからデータを移行するために使用する場合、DTSの機能と制限に精通しています。 データベースの評価には、ADAM (Advanced Database & Application Migration) が使用されます。 これにより、データをクラウドにスムーズに移行できます。 詳細については、「Oracleデータベースの準備」および「概要」をご参照ください。
制限事項
DTSは、ソースデータベースの外部キーをターゲットデータベースに移行しません。 したがって、ソースデータベースのカスケードおよび削除操作は、ターゲットデータベースに移行されません。
カテゴリ | 説明 |
ソースデータベースの制限 |
|
その他の制限 |
|
課金
移行タイプ | インスタンス設定料金 | インターネットトラフィック料金 |
スキーマ移行とフルデータ移行 | 無料です。 | インターネット経由でAlibaba Cloudからデータが移行された場合にのみ課金されます。 詳細については、「課金の概要」をご参照ください。 |
増分データ移行 | 有料。 詳細については、「課金の概要」をご参照ください。 |
移行タイプ
移行タイプ | 説明 |
スキーマの移行 | DTSは、選択したオブジェクトのスキーマをソースOracleデータベースからターゲットApsaraMQ for Kafkaインスタンスに移行します。 説明 このシナリオでは、DTSはトリガーのスキーマ移行をサポートしていません。 トリガーによるデータの不整合を防ぐため、ソースデータベースのトリガーを削除することを推奨します。 詳細については、「トリガーを含むソースデータベースのデータ同期または移行タスクの設定」をご参照ください。 |
フルデータ移行 | DTSは、選択したオブジェクトの履歴データをソースOracleデータベースからターゲットApsaraMQ for Kafkaインスタンスに移行します。 説明 スキーマ移行中およびフルデータ移行中は、移行するオブジェクトに対してDDL操作を実行しないでください。 そうしないと、オブジェクトの移行に失敗する可能性があります。 |
増分データ移行 | DTSは、ソースOracleデータベースからredoログ・ファイルを取得します。 次に、DTSは、増分データをソースOracleデータベースからターゲットApsaraMQ for Kafkaインスタンスに移行します。 増分データ移行は、自己管理型Oracleデータベースからデータを移行するときにサービスの継続性を保証します。 |
増分移行可能なSQL操作
操作タイプ | SQL文 |
DML | 挿入、更新、および削除 |
DDL |
|
準備
自己管理型のOracleデータベースにログインし、データの収集に使用するアカウントを作成し、そのアカウントに権限を付与します。
データベースアカウントを作成し、そのアカウントに次の表に示すアクセス許可がある場合は、この手順をスキップできます。
データベース | スキーマ移行 | 完全なデータ移行 | 増分データ移行 |
ソースOracleデータベース | スキーマ所有者の権限 | スキーマ所有者の権限 | 詳細な権限 |
データベースアカウントを作成し、データベースアカウントに権限を付与するには、次の操作を実行します。
自己管理型Oracleデータベース: データベース・アカウントの準備、CREATE USER、およびGRANT
Oracleデータベースから増分データを移行する場合は、増分データを取得するには、Oracleデータベースのアーカイブロギングと補足ロギングを有効にする必要があります。 詳細については、「Oracleデータベースの準備」トピックの「Oracleデータベースの構成」セクションをご参照ください。
手順
[データ移行タスク] ページに移動します。
データ管理 (DMS) コンソールにログインします。
上部のナビゲーションバーで、ポインタをDTSの上に移動します。
を選択します。
説明実際の操作は、DMSコンソールのモードとレイアウトによって異なります。 詳細については、「シンプルモード」および「DMSコンソールのレイアウトとスタイルのカスタマイズ」をご参照ください。
新しいDTSコンソールのデータ移行ページに行くこともできます。
データ移行タスクの右側にあるドロップダウンリストから、データ移行インスタンスが存在するリージョンを選択します。
説明新しいDTSコンソールを使用する場合は、左上隅にデータ移行インスタンスが存在するリージョンを選択する必要があります。
[タスクの作成] をクリックします。 [タスクの作成] ページで、ソースデータベースとターゲットデータベースを設定します。 次の表にパラメーターを示します。
警告ソースデータベースとターゲットデータベースを設定した後、ページの上部に表示される制限を読むことを推奨します。 そうしないと、タスクが失敗したり、データの不一致が発生します。
セクション
パラメーター
説明
非該当
タスク名
タスクの名前。 タスク名は自動生成されます。 タスクを識別するために、有益な名前を指定することを推奨します。 一意のタスク名を指定する必要はありません。
ソースデータベース
既存のDMSデータベースインスタンスの選択
使用するインスタンス。 ビジネス要件に基づいて、既存のインスタンスを使用するかどうかを選択できます。
既存のインスタンスを選択すると、DTSはデータベースのパラメーターを自動的に入力します。
既存のインスタンスを選択しない場合は、ソースデータベースのパラメーターを設定する必要があります。
データベースタイプ
移行元ディスクのタイプを設定します。 [Oracle] を選択します。
アクセス方法
ソースデータベースのアクセス方法。 ソースデータベースがデプロイされている場所に基づいてアクセス方法を選択します。 この例では、ECS上の自己管理データベースが選択されています。
説明ソースデータベースが自己管理データベースの場合、データベースのネットワーク環境を展開する必要があります。 詳細については、「準備の概要」をご参照ください。
インスタンスリージョン
ソースOracleデータベースが存在するリージョン。
ECSインスタンスID
自己管理型OracleデータベースをホストするElastic Compute Service (ECS) インスタンスのID。
ポート番号
自己管理型Oracleデータベースのサービス・ポート番号。 デフォルト値: 1521
Oracleタイプ
ソースデータベースのアーキテクチャ。 [非RACインスタンス] を選択した場合、SIDパラメーターを設定する必要があります。
RACまたはPDBインスタンスを選択した場合、サービス名パラメーターを設定する必要があります。
この例では、[非RACインスタンス] が選択されています。
データベースアカウント
ソースOracleデータベースのアカウント。 アカウントに必要な権限の詳細については、このトピックの準備セクションを参照してください。
データベースパスワード
データベースインスタンスへのアクセスに使用されるパスワード。
宛先データベース
既存のDMSデータベースインスタンスの選択
使用するインスタンス。 ビジネス要件に基づいて、既存のインスタンスを使用するかどうかを選択できます。
既存のインスタンスを選択した場合、DTSはインスタンスのパラメーターを自動的に入力します。
既存のインスタンスを選択しない場合、ターゲットデータベースのパラメーターを設定する必要があります。
データベースタイプ
ターゲットデータベースのタイプ。 Kafkaを選択します。
アクセス方法
ターゲットデータベースのアクセス方法。 Express Connect、VPN Gateway、またはSmart Access Gatewayを選択します。
説明アクセス方法としてApsaraMQ for Kafkaを選択することはできません。 ApsaraMQ for KafkaインスタンスをセルフマネージドKafkaデータベースとして使用して、データ移行を設定できます。
インスタンスリージョン
ターゲットApsaraMQ for Kafkaインスタンスが存在するリージョン。
接続済みVPC
ApsaraMQ for Kafkaインスタンスが属する仮想プライベートクラウド (VPC) のID。 ApsaraMQ for Kafkaコンソールにログインし、ApsaraMQ for Kafkaインスタンスの [インスタンスの詳細] ページに移動します。 [インスタンス情報] タブの [設定情報] セクションで、VPC IDを表示します。
IPアドレスまたはドメイン名
宛先ApsaraMQ for KafkaインスタンスのデフォルトエンドポイントのIPアドレス。
説明IPアドレスを取得するには、次の操作を実行します。ApsaraMQ for Kafkaコンソールにログインし、ApsaraMQ for Kafkaインスタンスの [インスタンスの詳細] ページに移動します。 [インスタンス情報] タブの [エンドポイント情報] セクションで、[デフォルトのエンドポイント] パラメーターからIPアドレスを取得します。
ポート番号
ApsaraMQ for Kafkaインスタンスのサービスポート番号。 デフォルト値: 9092
データベースアカウント
ApsaraMQ for Kafkaインスタンスのデータベースアカウント。
説明ApsaraMQ for KafkaインスタンスのインスタンスタイプがVPCタイプの場合、データベースアカウントおよびデータベースパスワードパラメーターを指定する必要はありません。
データベースパスワード
データベースインスタンスへのアクセスに使用されるパスワード。
Kafkaバージョン
ターゲットApsaraMQ for Kafkaインスタンスのバージョン。
暗号化
接続先インスタンスへの接続を暗号化するかどうかを指定します。 ビジネスとセキュリティの要件に基づいて、[非暗号化] または [SCRAM-SHA 256] を選択します。
トピック
移行されたデータの受信に使用されるトピック。 ドロップダウンリストからトピックを選択します。
DDL情報を保存するトピック
DDL情報を格納するために使用されるトピック。 ドロップダウンリストからトピックを選択します。 このパラメーターを設定しない場合、DDL情報はtopicパラメーターで指定されたトピックに格納されます。
Kafkaスキーマレジストリの使用
Kafka Schema Registryを使用するかどうかを指定します。 Kafka Schema Registryは、メタデータの提供レイヤーを提供します。 Avroスキーマを保存および取得するためのRESTful APIを提供します。 有効な値：
いいえ
[はい] このパラメーターで [はい] を選択した場合、AvroスキーマのKafka Schema Registryに登録されているURLまたはIPアドレスを入力する必要があります。
自己管理データベースにIPアドレスホワイトリストが設定されている場合は、DTSサーバーのCIDRブロックをIPアドレスホワイトリストに追加します。 次に、接続テスト をクリックします。
警告DTSサーバーのパブリックCIDRブロックがデータベースインスタンスのホワイトリストまたはECSインスタンスのセキュリティグループルールに自動的または手動で追加されると、セキュリティリスクが発生する可能性があります。 したがって、DTSを使用してデータを移行する前に、潜在的なリスクを理解して認識し、ユーザー名とパスワードのセキュリティの強化、公開されるポートの制限、API呼び出しの認証、ホワイトリストまたはセキュリティグループルールの定期的なチェック、CIDRブロックの禁止、またはExpress Connectを使用したデータベースインスタンスのDTSへの接続、VPNゲートウェイ、またはSmart Access Gateway。
移行するオブジェクトと詳細設定を設定します。
パラメーター
説明
移行タイプ
フルデータ移行のみを実行するには、[スキーマ移行] と [フルデータ移行] を選択します。
データ移行中のサービスの継続性を確保するには、[スキーマ移行] 、[フルデータ移行] 、および [増分データ移行] を選択します。
説明増分データ移行を選択しない場合、データ移行中にソースデータベースにデータを書き込まないことを推奨します。 これにより、ソースデータベースとターゲットデータベース間のデータの整合性が確保されます。
競合テーブルの処理モード
エラーの事前チェックと報告: ターゲットデータベースに、ソースデータベースのテーブルと同じ名前を使用するテーブルが含まれているかどうかを確認します。 ソースデータベースとターゲットデータベースに同じテーブル名のテーブルが含まれていない場合は、事前チェックに合格します。 それ以外の場合、事前チェック中にエラーが返され、データ移行タスクを開始できません。
説明ソースデータベースとターゲットデータベースに同じ名前のテーブルが含まれていて、ターゲットデータベース内のテーブルを削除または名前変更できない場合は、オブジェクト名マッピング機能を使用して、ターゲットデータベースに移行されるテーブルの名前を変更できます。 詳細については、「マップオブジェクト名」をご参照ください。
エラーを無視して続行: ソースデータベースとターゲットデータベースの同じテーブル名の事前チェックをスキップします。
警告エラーを無視して続行 を選択すると、データの不整合が発生し、ビジネスが次の潜在的なリスクにさらされる可能性があります。
ソースデータベースとターゲットデータベースが同じスキーマを持ち、データレコードがターゲットデータベースの既存のデータレコードと同じプライマリキーを持つ場合、次のシナリオが発生する可能性があります。
完全データ移行中、DTSはデータレコードを移行先データベースに移行しません。 ターゲットデータベースの既存のデータレコードが保持されます。
増分データ移行中に、DTSはデータレコードを移行先データベースに移行します。 ターゲットデータベースの既存のデータレコードが上書きされます。
ソースデータベースとターゲットデータベースのスキーマが異なる場合、特定の列のみが移行されるか、データ移行タスクが失敗します。 作業は慎重に行ってください。
Kafkaのデータ形式
ターゲットApsaraMQ for Kafkaインスタンスにデータが格納される形式。
DTS Avroを選択した場合、データはDTS Avroのスキーマ定義に基づいて解析されます。 詳細については、『GitHub』をご参照ください。
SharePlex JSONを選択した場合、データはSharePlex JSON形式で保存されます。 詳細については、Kafkaクラスターのデータ形式のトピックのShareplex Jsonセクションを参照してください。
Kafkaパーティションへの出荷データのポリシー
データをKafkaパーティションに移行するためのポリシー。 ビジネス要件に基づいてポリシーを選択します。 詳細については、「データをKafkaパーティションに移行するためのポリシーの指定」をご参照ください。
ソースオブジェクト
ソースオブジェクト セクションから1つ以上のオブジェクトを選択します。
アイコンをクリックして、選択中のオブジェクト セクションにオブジェクトを追加します。 選択中のオブジェクト
移行先インスタンスに移行するオブジェクトの名前を変更するには、[選択済みオブジェクト] セクションでオブジェクトを右クリックします。 詳細については、「単一オブジェクトの名前のマッピング」をご参照ください。
一度に複数のオブジェクトの名前を変更するには、[選択済みオブジェクト] セクションの右上隅にある [一括編集] をクリックします。 詳細については、「一度に複数のオブジェクト名をマップする」をご参照ください。
説明オブジェクト名マッピング機能を使用してオブジェクトの名前を変更すると、そのオブジェクトに依存する他のオブジェクトの移行に失敗する可能性があります。
データをフィルタリングするWHERE条件を指定するには、選択中のオブジェクト セクションでテーブルを右クリックします。 表示されるダイアログボックスで、条件を指定します。 詳細については、「フィルター条件の指定」をご参照ください。
特定のデータベースまたはテーブルで実行されるSQL操作を選択するには、選択中のオブジェクト セクションでオブジェクトを右クリックします。 表示されるダイアログボックスで、段階的に移行するSQL操作を選択します。 詳細については、このトピックの「SQL操作を段階的に移行できる」をご参照ください。
次へ：詳細設定 をクリックして詳細設定を設定します。 下表にパラメーターを示します。
パラメーター
説明
タスクのスケジュールに使用する専用クラスターの選択
デフォルトでは、DTSはタスクを共有クラスターにスケジュールします。 このパラメーターを設定する必要はありません。 データ移行タスクを実行するために必要な仕様の専用クラスターを購入して指定することもできます。 詳細については、「DTS専用クラスターの概要」をご参照ください。
失敗した接続の再試行時間
失敗した接続のリトライ時間範囲。 データ移行タスクの開始後にソースデータベースまたはターゲットデータベースの接続に失敗した場合、DTSは再試行時間範囲内ですぐに接続を再試行します。 有効な値: 10 ~ 1440 単位は分です。 デフォルト値: 720 パラメーターを30より大きい値に設定することを推奨します。 指定した再試行時間内にDTSがソースデータベースとターゲットデータベースに再接続された場合、DTSはデータ移行タスクを再開します。 それ以外の場合、データ移行タスクは失敗します。
説明同じソースまたはターゲットデータベースを共有する複数のデータ移行タスクに対して異なるリトライ時間範囲を指定した場合、後で指定される値が優先されます。
DTSが接続を再試行すると、DTSインスタンスに対して課金されます。 業務要件に基づいて再試行時間範囲を指定することを推奨します。 ソースデータベースとターゲットインスタンスがリリースされた後、できるだけ早くDTSインスタンスをリリースすることもできます。
移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。
その他の問題の再試行時間範囲。 たとえば、データ移行タスクの開始後にDDLまたはDML操作の実行に失敗した場合、DTSは再試行時間範囲内ですぐに操作を再試行します。 有効な値: 1 ~ 1440 単位は分です。 デフォルト値は 10 です。 パラメーターを10より大きい値に設定することを推奨します。 指定された再試行時間内に失敗した操作が正常に実行された場合、DTSはデータ移行タスクを再開します。 それ以外の場合、データ移行タスクは失敗します。
重要移行元データベースと移行先データベースで他の問題が発生した場合の、再試行までの待機時間です。 パラメーターの値は、失敗した接続の再試行時間 パラメーターの値よりも小さくする必要があります。
完全なデータ移行のためのスロットリングを有効化
フルデータ移行のスロットリングを有効にするかどうかを指定します。 完全データ移行中、DTSはソースデータベースとターゲットデータベースの読み取りおよび書き込みリソースを使用します。 これは、データベースサーバの負荷を増加させる可能性がある。 ビジネス要件に基づいて、フルデータ移行のスロットリングを有効にできます。 スロットリングを設定するには、1 秒あたりのソースデータベースのクエリ率 QPS 、1 秒あたりの完全移行の行数 RPS、1 秒あたりの完全移行データ量 (MB) BPS パラメーターを設定する必要があります。 これにより、移行先データベースサーバーの負荷が軽減されます。
説明このパラメーターは、移行タイプ パラメーターに 完全データ移行 を選択した場合にのみ設定できます。
完全なデータ移行のスロットリングを有効化
増分データ移行のスロットリングを有効にするかどうかを指定します。 スロットリングを設定するには、1 秒あたりの増分移行の行数 RPSと1 秒あたりの増分移行データ量 (MB) BPS パラメーターを設定する必要があります。 これにより、移行先データベースサーバーの負荷が軽減されます。
説明このパラメーターは、移行タイプ パラメーターに 増分データ移行 を選択した場合にのみ設定できます。
環境タグ
DTSインスタンスを識別するために使用される環境タグ。 ビジネス要件に基づいて環境タグを選択できます。 この例では、環境タグは選択されていません。
実際の書き込みコード
データがターゲットデータベースに書き込まれるエンコード形式。 ビジネス要件に基づいて形式を選択します。
ETL の設定
抽出、変換、および読み込み (ETL) 機能を有効にするかどうかを指定します。 詳細については、「ETLとは何ですか? 」をご参照ください。有効な値：
Yes: ETL機能を設定します。 コードエディターでデータ処理ステートメントを入力できます。 詳細については、「データ移行またはデータ同期タスクでのETLの設定」をご参照ください。
No: ETL機能を設定しません。
監視アラート
データ移行タスクのアラートを設定するかどうかを指定します。 タスクが失敗するか、移行の待ち時間が指定されたしきい値を超えると、アラート送信先は通知を受け取ります。 有効な値：
No: アラートを設定しません。
Yes: アラートを設定します。 この場合、アラートしきい値と アラート通知設定 詳細については、「モニタリングとアラートの設定」トピックの「DTSタスクを作成するときのモニタリングとアラートの設定」をご参照ください。
ページの下部で、次：タスク設定の保存と事前チェック をクリックします。
ポインタを 次：タスク設定の保存と事前チェック に移動し、[OpenAPIパラメーターのプレビュー] をクリックして、関連するAPI操作を呼び出してDTSタスクを設定するときに指定するパラメーターを表示できます。
説明データ移行タスクを開始する前に、DTSは事前チェックを実行します。 データ移行タスクは、タスクが事前チェックに合格した後にのみ開始できます。
タスクが事前チェックに合格しなかった場合は、失敗した各項目の横にある [詳細の表示] をクリックします。 チェック結果に基づいて原因を分析した後、問題のトラブルシューティングを行います。 次に、もう一度プレチェックを実行します。
事前チェック中にアイテムに対してアラートがトリガーされた場合:
アラートアイテムを無視できない場合は、失敗したアイテムの横にある [詳細の表示] をクリックして問題のトラブルシューティングを行います。 次に、もう一度プレチェックを実行します。
アラート項目を無視できる場合は、[アラート詳細の確認] をクリックします。 [詳細の表示] ダイアログボックスで、[無視] をクリックします。 表示されたメッセージボックスで、[OK] をクリックします。 次に、[再度事前チェック] をクリックして、事前チェックを再度実行します。 アラート項目を無視すると、データの不整合が発生し、ビジネスが潜在的なリスクにさらされる可能性があります。
成功率が100% になるまで待ちます。 次に、[次へ: インスタンスの購入] をクリックします。
[インスタンスの購入] ページで、データ移行インスタンスのインスタンスクラスパラメーターを設定します。 下表にパラメーターを示します。
セクション
パラメーター
説明
新しいインスタンスクラス
リソースグループ
データ移行インスタンスが属するリソースグループ。 デフォルト値: Default resource group 詳細については、「リソース管理とは 」をご参照ください。
インスタンスクラス
DTSは、移行速度が異なるインスタンスクラスを提供します。 ビジネスシナリオに基づいてインスタンスクラスを選択できます。 詳細については、「データ移行インスタンスのインスタンスクラス」をご参照ください。
読んで同意するデータ伝送サービス (従量課金) サービス規約チェックボックスを選択します。
[購入して開始] をクリックします。 表示されるメッセージで、 [OK] をクリックします。
[データ移行] ページでタスクの進行状況を確認できます。