Container Service for Kubernetes:スケジュール解除機能の有効化

あなたが始める前に

• このトピックを読む前に、機能、使用シナリオ、ワークフロー、およびスケジュール解除の基本概念について学ぶことをお勧めします。 詳細については、「スケジュール解除の概要」をご参照ください。

• このトピックでは、例としてRemovePodsViolatingNodeTaintsという名前のノード汚染検証プラグインを使用します。 NoScheduleなど、ポッドのスケジュールと削除にテイントと許容範囲を使用する方法の詳細については、「テイントと許容範囲」をご参照ください。

• Kubernetes Deschedulerを使用する場合は、Koordinator DeschedulerとKubernetes Deschedulerの違いについて学習し、Koordinator Deschedulerに移行することを推奨します。 詳細については、「Koordinator DeschedulerとKubernetes Deschedulerの比較」をご参照ください。

• スケジュール解除機能の基本的な操作に精通している場合は、システム構成、テンプレート構成、ポリシープラグイン構成、およびevictorプラグイン構成などの高度な構成を調べることができます。 詳細については、「詳細パラメーターの設定」をご参照ください。

前提条件

• ACK Proクラスターが作成されました。 詳細については、「ACK管理クラスターの作成」をご参照ください。

  説明

  スケジュール解除機能は、仮想ノードでは使用できません。

• kubectlクライアントがACKクラスターに接続されています。 詳細については、「クラスターのkubeconfigファイルを取得し、kubectlを使用してクラスターに接続する」をご参照ください。

使用上の注意

• Koordinator Deschedulerは実行中のポッドのみを削除し、削除されたポッドを再作成またはスケジュールしません。 ポッドが削除されると、ポッドはDeploymentやStatfulSetなどのワークロードコントローラーによって再作成されます。 再作成されたポッドは引き続きスケジューラによってスケジュールされます。

• スケジュール解除プロセス中に、古いポッドが削除され、新しいポッドが作成されます。 削除中にアプリケーションの可用性が影響を受ける場合に備えて、アプリケーションに十分なレプリカがあることを確認してください。

例

このトピックでは、ack-koordinatorコンポーネントに基づいて、スケジューリング解除機能を有効にし、スケジューリング解除ポリシーを実装する方法について説明します。 ノード汚染検証プラグインRemovePodsViolatingNodeTaintsを例として使用します。

デフォルトでは、RemovePodsViolatingNodeTaintsポリシーは、taint効果がNoScheduleであるノードのポッドと、taintを許容できないポッドを削除します。 たとえば、ノードは実行中のポッドをホストし、管理者はdeschedule=not-allow:NoScheduleテイントをノードに追加します。 ノード上のポッドがテイントを許容する許容範囲で構成されていない場合、ポッドはスケジューリング解除ポリシーによって削除されます。 詳細については、「RemovePodsViolatingNodeTaints」をご参照ください。

RemovePodsViolatingNodeTaintsポリシーでは、ノードの汚染を無視するようにexcludedTaintsフィールドを設定できます。 taint keyまたはkey-valueペア (key=value) がexcludedTaintsリストのtaintと一致する場合、そのtaintは無視されます。

この例では、プラグインは次の方法で汚染を検証するように設定されています。

• ノードでeffectがNoScheduleに設定されます。

• NoScheduleテイント属性では、テイントキーはスケジュール解除ではなく、テイント値はnot-allowではありません。

上記の条件を満たすノードで、実行中のポッドに一致する許容範囲がない場合、ポッドはデスケジューラによって追い出されます。

手順1: ack-koordinatorコンポーネントをインストールまたは変更し、スケジューリング解除を有効にする

このセクションの手順に従って、ack-koordinator (FKA ack-slo-manager) コンポーネントをインストールし、Koordinator Deschedulerが提供するスケジューリング解除機能を使用できます。 Koordinator Deschedulerは、デプロイとしてノードにデプロイされます。

1. ACKコンソールにログインします。 左側のナビゲーションウィンドウで、[クラスター] をクリックします。

2. [クラスター] ページで、管理するクラスターの名前をクリックします。 左側のナビゲーションウィンドウで、[操作] > [アドオン] を選択します。

3. ack-koordinatorコンポーネントを見つけて、右下隅の [インストール] をクリックします。 [ack-koordinatorのインストール] ダイアログボックスで、[ACK-Koordinatorのデスケジューラの有効化] を選択して、スケジューリング解除モジュールを有効にします。 次に、プロンプトに従ってコンポーネントを設定してインストールします。

ステップ2: RemovePodsViolatingNodeTaintsという名前のスケジューリング解除プラグインを有効にする

1. 次のYAMLコンテンツを使用して、koord-descheduler-config.yamlという名前のファイルを作成します。

   koord-descheduler-config.yamlファイルは、RemovePodsViolatingNodeTaintsという名前のスケジューリング解除プラグインを有効化および設定するために使用されるConfigMapです。

   # koord-descheduler-config.yaml
   apiVersion: v1
   kind: ConfigMap
   metadata:
     name: koord-descheduler-config
     namespace: kube-system
   data:
     koord-descheduler-config: |
       # Do not modify the following system configuration of koord-desheduler. 
       apiVersion: descheduler/v1alpha2
       kind: DeschedulerConfiguration
       leaderElection:
         resourceLock: leases
         resourceName: koord-descheduler
         resourceNamespace: kube-system
       deschedulingInterval: 120s # The interval at which LowNodeLoad runs. The interval is set to 120 seconds in this example. 
       dryRun: false # The global read-only mode. After you enable this mode, koord-descheduler does not perform any operations. 
       # The preceding configuration is the system configuration. 
   
       profiles:
       - name: koord-descheduler
         plugins:
           deschedule:
             enabled:
               -name: RemovePodsViolatingNodeTaints # Enable the node taint verification plug-in.         
   
         pluginConfig:             
         - name: RemovePodsViolatingNodeTaints # The configurations of the node taint verification plug-in. 
           args:        
             excludedTaints: 
             - deschedule=not-allow # Ignore nodes whose taint key is deschedule and taint value is not-allow.

2. 次のコマンドを実行して、koord-descheduler-config.yamlファイルをクラスターにデプロイします。

   kubectl apply -f koord-descheduler-config.yaml

3. 次のコマンドを実行して、デスケジューラーモジュールKoordinator deschedulerを再起動します。

   kubectl -n kube-system scale deploy ack-koord-descheduler --replicas 0
   # Expected output:
   # deployment.apps/ack-koord-descheduler scaled
   kubectl -n kube-system scale deploy ack-koord-descheduler --replicas 1
   # Expected output:
   # deployment.apps/ack-koord-descheduler scaled

   ack-koord-descheduler Deploymentのレプリカ数を0に設定し、1に設定します。 この操作により、Koordinator Deschedulerモジュールが再起動されます。 再起動後に最新の設定が使用されます。

ステップ3: スケジュール解除機能の確認

3つのノードを含むクラスターを例として使用します。

1. 次のYAMLコンテンツを使用して、stress-demo.yamlという名前のファイルを作成します。

   サンプルアプリケーションはstress-demo.yamlファイルで定義されています。

   YAMLコンテンツの表示

   apiVersion: apps/v1
   kind: Deployment
   metadata:
     name: stress-demo
     namespace: default
     labels:
       app: stress-demo
   spec:
     replicas: 3
     selector:
       matchLabels:
         app: stress-demo
     template:
       metadata:
         name: stress-demo
         labels:
           app: stress-demo
       spec:
         containers:
           - args:
               - '--vm'
               - '2'
               - '--vm-bytes'
               - '1600M'
               - '-c'
               - '2'
               - '--vm-hang'
               - '2'
             command:
               - stress
             image: registry-cn-beijing.ack.aliyuncs.com/acs/stress:v1.0.4
             imagePullPolicy: Always
             name: stress
             resources:
               limits:
                 cpu: '2'
                 memory: 4Gi
               requests:
                 cpu: '2'
                 memory: 4Gi
         restartPolicy: Always

2. 次のコマンドを実行してstress-demo.yamlファイルをデプロイし、テストポッドを作成します。

   kubectl create -f stress-demo.yaml

3. 次のコマンドを実行して、実行状態になるまでポッドのステータスを表示します。

   kubectl get pod -o wide

   期待される出力:

   NAME                         READY   STATUS    RESTARTS   AGE    IP              NODE                        NOMINATED NODE   READINESS GATES
   stress-demo-5f6cddf9-9****   1/1     Running   0          10s    192.XX.XX.27   cn-beijing.192.XX.XX.247   <none>           <none>
   stress-demo-5f6cddf9-h****   1/1     Running   0          10s    192.XX.XX.20   cn-beijing.192.XX.XX.249   <none>           <none>
   stress-demo-5f6cddf9-v****   1/1     Running   0          10s    192.XX.XX.32   cn-beijing.192.XX.XX.248   <none>           <none>

4. 次のコマンドを実行して、key=value:NoSchedule taintをノードに追加します。

   • deschedule=not-allow:NoScheduleテイントをcn-beijing.192.XX.XX.247という名前のノードに追加します。

     kubectl taint nodes cn-beijing.192.XX.XX.247 deschedule=not-allow:NoSchedule

     期待される出力:

     node/cn-beijing.192.XX.XX.247 tainted

   • deschedule=allow:NoScheduleテイントをcn-beijing.192.XX.XX.248という名前のノードに追加します。

     kubectl taint nodes cn-beijing.192.XX.XX.248 deschedule=allow:NoSchedule

     期待される出力:

     node/cn-beijing.192.XX.XX.248 tainted

5. 次のコマンドを実行して、ポッドの変更を表示します。

   kubectl get pod -o wide -w

   デスケジューラーモジュールがノードの汚染を確認し、削除操作を実行するのを待ちます。

   期待される出力:

   NAME                         READY   STATUS              RESTARTS   AGE     IP             NODE                    NOMINATED NODE   READINESS GATES
   stress-demo-5f6cddf9-9****   1/1     Running             0          5m34s   192.XX.XX.27   cn-beijing.192.XX.XX.247   <none>           <none>
   stress-demo-5f6cddf9-h****   1/1     Running             0          5m34s   192.XX.XX.20   cn-beijing.192.XX.XX.249   <none>           <none>
   stress-demo-5f6cddf9-v****   1/1     Running             0          5m34s   192.XX.XX.32   cn-beijing.192.XX.XX.248   <none>           <none>
   stress-demo-5f6cddf9-v****   1/1     Terminating         0          7m58s   192.XX.XX.32   cn-beijing.192.XX.XX.248   <none>           <none>
   stress-demo-5f6cddf9-j****   0/1     ContainerCreating   0          0s      <none>         cn-beijing.192.XX.XX.249   <none>           <none>
   stress-demo-5f6cddf9-j****   1/1     Running             0          2s      192.XX.XX.32   cn-beijing.192.XX.XX.249   <none>           <none>

   出力は次の情報を示します。

   • ノードcn-beijing.192.XX.XX.248上のポッドのstress-demo-5f6cddf9-v **** は、taint deschedule=allow:NoScheduleで削除されます。

   • ノードcn-beijing.192.XX.XX.247上のポッドのstress-demo-5f6cddf9-9 **** は、taint deschedule=not-allow:NoScheduleで削除されません。

   • 削除されたポッドのstress-demo-5f6cddf9-v **** は、NoScheduleテントを持たないノードcn-beijing.192.XX.XX.249にスケジュール解除されます。

6. 次のコマンドを実行して、追い出されたポッドのイベントを表示します。

   kubectl get event | grep stress-demo-5f6cddf9-v****

   期待される出力:

   3m24s       Normal    Evicting            podmigrationjob/b0fba65f-7fab-4a99-96a9-c71a3798****   Pod "default/stress-demo-5f6cddf9-v****" evicted from node "cn-beijing.192.XX.XX.248" by the reason "RemovePodsViolatingNodeTaints"
   2m51s       Normal    EvictComplete       podmigrationjob/b0fba65f-7fab-4a99-96a9-c71a3798****   Pod "default/stress-demo-5f6cddf9-v****" has been evicted
   3m24s       Normal    Descheduled         pod/stress-demo-5f6cddf9-v****                         Pod evicted from node "cn-beijing.192.XX.XX.248" by the reason "RemovePodsViolatingNodeTaints"
   3m24s       Normal    Killing             pod/stress-demo-5f6cddf9-v****                         Stopping container stress

   を止める

   期待される出力は、ポッドの移行レコードを示します。 ノードcn-beijing.192.XX.XX.248のtaint deschedule=not-allowを許容するように、一致する許容範囲でポッドが構成されていません。 その結果、ポッドは別のノードにスケジュール解除されます。 結果は期待に応えます。

詳細パラメーターの設定

上記の操作に加えて、ConfigMapを使用してKoordinator Deschedulerの詳細パラメーターを設定することもできます。

高度な設定の例

次のYAMLファイルは、Koordinator Deschedulerの高度な設定の例を示しています。 これらの設定は、DeschedulerConfiguration APIを呼び出してKoordinator Deschedulerの動作を変更し、RemovePodsViolatingNodeTaintノードのテイント検証ポリシーを有効にし、MigrationControllerをpod evictorとして使用します。

サンプル設定のパラメーターの詳細については、次のセクションを参照してください。

# koord-descheduler-config.yaml
apiVersion: v1
kind: ConfigMap
metadata:
  name: koord-descheduler-config
  namespace: kube-system
data:
  koord-descheduler-config: |
    # Do not modify the following system configuration of koord-desheduler. 
    apiVersion: descheduler/v1alpha2
    kind: DeschedulerConfiguration
    leaderElection:
      resourceLock: leases
      resourceName: koord-descheduler
      resourceNamespace: kube-system
    dryRun: false # The global read-only mode. After you enable this mode, koord-descheduler does not perform any operations.   
    deschedulingInterval: 120s # The interval at which LowNodeLoad runs. The interval is set to 120 seconds in this example. 
    nodeSelector: # The nodes that are involved in descheduling. By default, all nodes are descheduled. 
      desschedule: allow # Only nodes whose key is desschedule and value is allow are descheduled. 
    maxNoOfPodsToEvictPerNode: 10 # The maximum number of pods that can be evicted from a node. The limit takes effect on a global scale. By default, no limit is configured. 
    maxNoOfPodsToEvictPerNamespace: 10 # The maximum number of pods that can be evicted from a namespace. The limit takes effect on a global scale. By default, no limit is configured. 
    # The preceding configuration is the system configuration. 

    # The template list. 
    profiles: 
    -name: koord-descheduler # The name of the template. 
      # The following template configuration specifies the plug-ins to be enabled. 
      plugins: 
        desschedule: # Specify the Deschedule policy. All plug-ins are disabled by default. 
          enabled: # Specify the plug-ins to be enabled. All other plug-ins that are not explicitly specified in the enabled parameter are disabled. 
            -name: RemovePodsViolatingNodeTaints # Enable the node taint verification plug-in. 
        balance: # Specify the Balance policy. All plug-ins are disabled by default. 
          disabled: # Specify the plug-ins to be disabled. 
            -name: "*" # An asterisk (*) indicates that all plug-ins are disabled. 
        evict:          
          enabled:
            -name: MigrationController # Specify the evictor. By default, the migration controller is enabled. 
        filter: 
          enabled:
            -name: MigrationController # Specify the eviction filtering policy. The eviction filtering policy of the migration controller is used by default. 
      # The preceding configurations are template configurations. 

      # The plug-in list, which includes policy plug-ins and evictor plug-ins. 
      pluginConfig: 
      # The configurations of the RemovePodsViolatingNodeTaints policy plug-in. 
      - name: RemovePodsViolatingNodeTaints
        args:
          excludedTaints:
          - deschedule=not-allow # Ignore nodes whose taint key is deschedule and taint value is not-allow.
          -reserved # Ignore nodes whose taint key is reserved.
          includePreferNoSchedule: false # Specify whether to include taints with the effect PreferNoSchedule. By default, only taints with the effect NoSchedule are included. 
          namespaces: # Specify the namespaces that you want to include or exclude for descheduling. The include and exclude lists are mutually exclusive. 
            include: # Specify the namespaces that you want to include for descheduling. 
              - "namespace1"
              - "namespace2"
            # exclude: # Specify the namespaces that you want to exclude for descheduling. 
            #   - "namespace1"
            #   - "namespace2"
          labelSelector: # Specify the pods that can be descheduled. By default, all pods can be descheduled. 
            accelerator: nvidia-tesla-p100 # Only pods whose key is accelerator and value is nvidia-tesla-p100 can be descheduled.      
    
      # The configurations of the node taint verification plug-in.      
      - name: MigrationController # Configure the parameters of the migration controller. 
        args:
          apiVersion: descheduler/v1alpha2
          kind: MigrationControllerArgs  
          evictLocalStoragePods: false # Specify whether pods that are configured with the emptyDir or hostPath can be descheduled.        
          maxMigratingPerNode: 1 # The maximum number of pods that can be migrated at the same time on a node. 
          maxMigratingPerNamespace: 1  # The maximum number of pods that can be migrated at the same time in a namespace. 
          maxMigratingPerWorkload: 1 # The maximum number of pods that can be migrated at the same time in a workload, such as a Deployment. 
          maxUnavailablePerWorkload: 2 # The maximum number of unavailable replicated pods that are allowed in a workload, such as a Deployment. 
          objectLimiters:
            workload: # Control workload-specific pod migration control. By default, the system can migrate only one replicated pod within 5 minutes after the first eviction. 
              duration: 5m
              maxMigrating: 1
          evictionPolicy: Eviction # The pod eviction method. The Eviction API is called to evict pods by default.        

nodeSelector:
  スケジュール解除: 許可 

type MigrationObjectLimiter struct {
    Duration time.Duration `json:"duration,omitempty"`
    MaxMigrating *intstr.IntOrString `json:"maxMigrating,omitempty"`
}

objectLimiters:
  workload:
    duration: 5m
    maxMigrating: 1

関連ドキュメント

• いくつかのスケジューリング解除機能は、ACKスケジューラに依存する。 詳細については、「負荷認識型ホットスポットのスケジューリング解除」をご参照ください。

• クラスターのリソース使用量とコスト配分を取得するために、コストインサイトでスケジュール解除機能を使用できます。 これは、クラスターのリソース利用率を高めるためのコスト削減提案を生成するのに役立ちます。 詳細については、「コストインサイトの概要」をご参照ください。

• 発生する可能性のある問題のトラブルシューティング方法については、「スケジューリングに関するFAQ」をご参照ください。

• ack-koordinatorの概要とリリースノートの詳細については、「ack-koordinator (ack-slo-manager) 」をご参照ください。

• ack-deschedulerは中止されます。 ack-deschedulerからKoordinator Deschedulerに移行することを推奨します。 詳細については、「」をご参照ください。ack-deschedulerからKoordinator Deschedulerに移行するにはどうすればよいですか?.