OSS-HDFSが有効になっているバケット内の一部のデータは、頻繁にアクセスされませんが、コンプライアンスまたはアーカイブ要件を満たすために保持する必要があります。 これらの要件を満たすために、OSS-HDFSは自動ストレージ階層化機能を提供します。 この機能は、アクセス頻度の高いデータのストレージクラスを標準に、アクセス頻度の低いデータのストレージクラスを低頻度アクセス (IA) 、アーカイブ、またはコールドアーカイブに自動的に変換して、ストレージコストを削減します。
前提条件
データはOSS-HDFSに書き込まれる。
自動ストレージ階層化機能を有効にするバケットは、次のいずれかのリージョンにあります。中国 (杭州) 、中国 (上海) 、中国 (北京) 、中国 (深セン) 、中国 (張家口) 、中国 (香港) 、シンガポール、ドイツ (フランクフルト) 、米国 (シリコンバレー) 、米国 (バージニア) 、インドネシア (ジャカルタ) 。
自動ストレージ階層化機能を使用するためにチケットが送信されました。
JindoSDK 4.4.0以降がインストールおよび設定されています。 詳細については、「非EMRクラスターのOSS-HDFSへの接続」をご参照ください。
使用上の注意
OSS-HDFSでIA、アーカイブ、またはコールドアーカイブオブジェクトを読み取ると、データ取得料金が発生します。 頻繁にアクセスされるデータをIA、アーカイブ、またはCold Archiveオブジェクトとして保存しないことを推奨します。 データ取得料金の詳細については、「データ処理料金」をご参照ください。
OSS-HDFS内のデータのストレージポリシーを設定する場合、データブロックにタグを追加する必要があります。 オブジェクトタグの課金ルールに基づいて、タグに対して課金されます。 詳細については、「オブジェクトタグ付け料金」をご参照ください。
JindoSDKのバージョンが6.4.0より前の場合、IA、Archive、またはCold Archiveディレクトリにオブジェクトを作成することはできません。 IA、Archive、またはCold Archiveディレクトリにオブジェクトを作成する必要がある場合。 IA、Archive、またはCold Archiveディレクトリにオブジェクトを作成する必要がある場合は、オブジェクトを作成してStandardディレクトリに保存できます。 次に、名前変更操作を使用して、オブジェクトをIA、アーカイブ、またはコールドアーカイブディレクトリに移動します。
IA、Archive、またはCold Archiveディレクトリにオブジェクトを直接作成する場合は、JindoSDKを6.4.0以降にアップグレードする必要があります。
オブジェクトのストレージクラスをアーカイブまたはコールドアーカイブに変換すると、追加のシステムオーバーヘッドが生成され、データの復元が遅くなります。 作業は慎重に行ってください。
アーカイブオブジェクトのストレージクラスをコールドアーカイブに変換できますが、コールドアーカイブオブジェクトのストレージクラスをアーカイブに変換することはできません。
手順
環境変数を設定します。
Elastic Compute Service (ECS) インスタンスに接続します。 詳細については、「インスタンスへの接続」をご参照ください。
インストールされているJindoSDK JARパッケージのbinディレクトリに移動します。
cd jindosdk-x.x.x/bin/
説明x.x.xは、JindoSDK JARパッケージのバージョン番号を示します。
binディレクトリの
jindo-util
ファイルに読み取りおよび書き込み権限を付与します。chmod 700 jindo-util
jindo-util
ファイルの名前をjindo
に変更します。mv jindo-util jindo
jindosdk.cfg
という名前の設定ファイルを作成し、次のパラメーターを設定ファイルに追加します。[common] Retain the following default configurations: logger.dir = /tmp/jindo-util/ logger.sync = false logger.consolelogger = false logger.level = 0 logger.verbose = 0 logger.cleaner.enable = true hadoopConf.enable = false [jindosdk] Specify the following parameters: <!-- In this example, the endpoint of the China (Hangzhou) region is used. Specify your actual endpoint. --> fs.oss.endpoint = cn-hangzhou.oss-dls.aliyuncs.com <! -- Configure the AccessKey ID and AccessKey secret that are used to access OSS-HDFS. --> fs.oss.accessKeyId = LTAI******** fs.oss.accessKeySecret = KZo1********
環境変数を設定します。
export JINDOSDK_CONF_DIR=<JINDOSDK_CONF_DIR>
<JINDOSDK_CONF_DIR> を
jindosdk.cfg
設定ファイルの絶対パスに設定します。
OSS-HDFSに書き込まれるデータのストレージポリシーを指定します。 次の表に、ストレージポリシーを示します。
シナリオ
コマンド
結果
IA
./jindo fs -setStoragePolicy -path oss://examplebucket/dir1 -policy CLOUD_IA
dir1 /ディレクトリ内のオブジェクトには、キーがtransition-storage-classで値がIAのタグが含まれています。
アーカイブ
./jindo fs -setStoragePolicy -path oss://examplebucket/dir2 -policy CLOUD_AR
dir2 /ディレクトリ内のオブジェクトには、キーがtransition-storage-classで値がArchiveのタグが含まれています。
コールドアーカイブ
./jindo fs -setStoragePolicy -path oss://examplebucket/dir3 -policy CLOUD_COLD_AR
dir3 /ディレクトリ内のオブジェクトには、キーがtransition-storage-classで値がColdArchiveのタグが含まれています。
自動ストレージ階層化機能を有効にします。
OSSコンソールにログインします。
左側のナビゲーションウィンドウで、[バケット] をクリックします。 [バケット] ページで、自動ストレージ階層化機能を有効にするバケットの名前をクリックします。
左側のナビゲーションツリーで、を選択します。
OSS-HDFSタブで、設定をクリックします。
[自動ストレージ階層化] パネルの [基本設定] セクションで、[ステータス] をオンにします。
設定が正しくないために自動ストレージ階層化機能が期待どおりに実行されないようにするため、OSSはライフサイクルルールを自動的に作成し、特定のタグを含むOSS-HDFSのデータのストレージクラスを変換します。
ライフサイクルルールは、キーがであるタグを含むデータのストレージクラスを指定します。transition-storage-classであり、その値はIAで、. dlsdata /ディレクトリは、データが最後に変更されてから1日後にIAに変換されます。
ライフサイクルルールは、キーがであるタグを含むデータのストレージクラスを指定します。transition-storage-classであり、その値はアーカイブで、. dlsdata /ディレクトリは、データが最後に変更されてから1日後にアーカイブに変換されます。
ライフサイクルルールは、キーがであるタグを含むデータのストレージクラスを指定します。transition-storage-classであり、その値はColdArchiveで、. dlsdata /ディレクトリは、データが最後に変更されてから1日後にコールドアーカイブに変更されます。
重要自動ストレージ階層化機能の有効化後に自動的に作成されるライフサイクルルールは変更しないでください。 そうしないと、データまたはOSS-HDFSサービスの例外が発生する可能性があります。
OKをクリックします。
OSS-HDFSは、手順2で設定したストレージポリシーに基づいて、オブジェクトのストレージクラスを変換します。
OSSは、ルールが作成されてから24時間以内にライフサイクルルールを読み込みます。 ルールがロードされた後、OSSは毎日08:00 (UTC + 8) にルールの実行を開始します。 特定の実行時間は、オブジェクトの数によって異なります。 オブジェクトは、少なくとも48時間以内に指定されたストレージクラスに変換されます。
関连するコマンド
構文 | 説明 |
| パス内のデータのストレージポリシーを指定します。
重要
|
| 特定のパスのデータのストレージポリシーを取得します。 |
| 特定のパスのデータのストレージポリシーを削除します。 |
| ストレージポリシーに基づいて、特定のパス内のデータの変換タスクのステータスを取得します。 有効な値:
説明 このコマンドは、OSS-HDFSのメタデータ変換タスクのステータスの照会にのみ使用され、OSSに送信されたタスクの処理ステータスの照会には使用できません。 |
| 特定のパスでアーカイブまたはコールドアーカイブデータを一時的に復元します。
アーカイブまたはコールドアーカイブオブジェクトを一時的に復元する場合は、次の項目に注意してください。 重要
|