Hue で SQL ステートメントを送信してインタラクティブクエリを実行すると、Hue は計算リソースのアプリケーションを YARN に送信します。 さまざまな Hive SQL または Spark SQL ジョブの計算リソースを管理および分離するには、YARN キューを設定する必要があります。 このトピックでは、YARN キューの設定方法について説明します。
前提条件
E-MapReduce(EMR)Hadoop クラスタが作成されていること。 詳細については、「クラスタの作成」をご参照ください。
手順
- クラスタの [クラスタ概要] ページに移動します。
- 上部のナビゲーションバーで、クラスタが存在するリージョンを選択し、ビジネス要件に基づいてリソースグループを選択します。
- [クラスタ管理] タブをクリックします。
- [クラスタ管理] ページで、クラスタを見つけて、[アクション] 列の [詳細] をクリックします。
- キュー設定を変更するか、カスタム項目を追加します。説明 既存のキューパラメータを変更する場合は、[設定] タブでパラメータを検索して値を変更できます。
- Hive SQL の場合は、エンジンの種類に基づいて HiveServer2 でキューパラメータを設定します。
- 左側のナビゲーションペインで、 を選択します。
- Hive サービスページで、[設定] タブをクリックします。
- [サービス設定] セクションで、[hiveserver2-site] タブをクリックします。
- [hiveserver2-site] タブで、右上隅にある [カスタム設定] をクリックします。 [設定項目の追加] ダイアログボックスで、カスタムパラメータを追加します。
エンジン パラメータ 説明 Hive on MR mapreduce.job.queuename キューの名前。 キュー名はカスタマイズできます。 この例では、パラメータの値は QUEUENAME です。
Hive on Tez tez.queue.name Hive on Spark spark.yarn.queue - パラメータを追加した後、[OK] をクリックします。
- 設定を保存します。
- [サービス設定] セクションの右上隅にある [保存] をクリックします。
- [変更の確認] ダイアログボックスで、[説明] を指定し、[OK] をクリックします。
- Spark SQL の場合、Spark Thrift Server は SQL クエリを実行するために使用されます。 Spark Thrift Server でキューパラメータを設定するには、次の手順を実行します。
- 左側のナビゲーションペインで、 を選択します。
- [設定] タブをクリックします。
- [サービス設定] セクションで、[spark-thriftserver] タブをクリックします。
- [spark-thriftserver] タブで、右上隅にある [カスタム設定] をクリックします。
- [設定項目の追加] ダイアログボックスで、spark.yarn.queue パラメータを追加し、QUEUENAME に設定して、[OK] をクリックします。
- 設定を保存します。
- [サービス設定] セクションの右上隅にある [保存] をクリックします。
- [変更の確認] ダイアログボックスで、[説明] を指定し、[OK] をクリックします。
- Hive SQL の場合は、エンジンの種類に基づいて HiveServer2 でキューパラメータを設定します。
- 関連コンポーネントを再起動します。
- Hive の HiveServer2 コンポーネントを再起動します。
- 左側のナビゲーションペインで、 を選択します。
- [コンポーネント開発] タブをクリックします。 [hiveserver2] コンポーネントを見つけて、[アクション] 列の [再起動] をクリックします。
- [クラスタアクティビティ] ダイアログボックスで、[説明] を指定し、[OK] をクリックします。
- [確認] メッセージで、[OK] をクリックします。
- Spark の ThriftServer コンポーネントを再起動します。
- 左側のナビゲーションペインで、 を選択します。
- [コンポーネント開発] タブをクリックします。 [thriftserver] コンポーネントを見つけて、[アクション] 列の [再起動] をクリックします。
- [クラスタアクティビティ] ダイアログボックスで、[説明] を指定し、[OK] をクリックします。
- [確認] メッセージで、[OK] をクリックします。
- Hive の HiveServer2 コンポーネントを再起動します。