Container Service for Kubernetes:ACK管理クラスターおよびACK専用クラスターのベストプラクティス

エディション

参照

LLM推論

• ACKでモデルをすばやくデプロイ

• vLLMを使用したQwenモデルの推論サービスとしてのデプロイ

• rtp-llmを使用してQwenモデルを推論サービスとしてデプロイする

• Tritonを使用してQwenモデルを推論サービスとしてデプロイする

• TGIを使用したQwenモデルの推論サービスとしてのデプロイ

AIGC

• AIイメージを構築し、イメージプルを加速

• Knativeに基づく安定した拡散サービスの展開

• SDXL TurboのCPUを使用してテキストからイメージへの推論を高速化

承認

認証のベストプラクティス

Clusters

• ACKクラスターのECS仕様の選択に関する提案

• HAクラスターの構築に関する提案

• ACKクラスターのCIDRブロックの計画

• 大規模クラスターの使用に関する提案

• 専用Kubernetesクラスターのetcdの容量を増やす

ノードとノードプール

• デプロイメントセットをノードプールに関連付けるためのベストプラクティス

• プリエンプティブルインスタンスベースのノードプールのベストプラクティス

• ContainerOSを使用したノードの迅速なスケールアウト

• ノードプールに空きノードを追加

• Docker、containerd、およびSandboxed-Containerの比較

• カスタムイメージからのcgroup v2ノードの作成

ネットワーク

• Terwayモードの大規模なACKクラスターのNetworkPolicy機能のパフォーマンスの向上

• Gateway APIを使用したサービスへのアクセス

• DNSサービスのベストプラクティス

• NGINX Ingressコントローラーの使用に関する注意事項

アプリケーション管理

• ワークロードの推奨設定

• AIイメージを構築し、イメージプルを加速

• Jenkinsを設定してアプリケーション配信パイプラインを構築

• GitLab CIを使用してGitLabランナーを実行し、Kubernetesでパイプラインを実行

• Elasticで費用対効果の高いCI/CDに基づくACK Serverless

Knative

• サービスのアラートイベントの表示

• KnativeでLog Serviceを有効にする

• Knativeでelasticコンテナインスタンスを使用

• KnativeでHPAを使用

• リクエスト数に基づくポッドの自動スケーリングの有効化

• Prometheus ServiceでKnativeダッシュボードを表示

• Knativeに基づく安定した拡散サービスの展開

ストレージ

• デプロイメントを使用したエフェメラルボリュームの作成

• クロスゾーンデプロイの推奨ストレージ設定

• ブロックストレージデバイスのベストプラクティス

• ディスクボリュームのデータセキュリティのベストプラクティス

• ディスクボリュームを使用するステートフルアプリケーションをゾーン間で移行

• NVMeディスクのマルチアタッチ機能とNVMe予約機能の使用

• StatefulSetを有効にして永続ストレージをサポート

• OSS読み書き分離のベストプラクティス

• CNFSを使用したJVMのヒープダンプの自動収集

可観測性

• ACK Net Exporterを使用したネットワークの問題のトラブルシューティング

• Prometheusクライアントを使用したモニタリングアプリケーション

• プロメテウスでアラートルールを設定するためのベストプラクティス

• SysOMを使用したコンテナーメモリの問題の特定

コスト管理スイート

コストインサイト機能を使用してコストを管理および最適化

自動スケーリング

• ack-autoscaling-placeholderを使用して数秒以内にポッドをスケーリング

• カスタムイメージの作成

• クロスゾーンデプロイの自動スケーリングの設定

• ACKクラスターでのUnitedDeploymentコントローラーの使用

• ARMS APMを使用した水平ポッド自動スケーリングの有効化

• GPUメトリックに基づく自動スケーリングの有効化

サービスメッシュ (ASM)

• ACKクラスターの仮想ノードで実行されているElastic Container InstanceベースのポッドでASMを使用してアプリケーションを管理

• ASMを使用した登録済みKubernetesクラスターのアプリケーションの管理

• ASMサーバーレスゲートウェイを使用して、複数のクラスターにアクセスするための単一のエントリポイントとして機能させる

• 複数のクラスターを使用したクロスリージョンディザスタリカバリと負荷分散の実装

• ASMメトリックを使用したワークロードの自動スケーリングの実装

• ingressゲートウェイを使用したASMインスタンスのgRPCサービスへのアクセス

グラフィックアプリケーション

• ベストプラクティスLinuxグラフィックスアプリケーション

• Unityリモートレンダリングのベストプラクティス