Elastic GPU Service:GPU高速化コンピューティング最適化インスタンスファミリー

インスタンスタイプ

特徴:

• AIユースケースのビジネス要件を満たすことができます。

• このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャを使用し、前世代のインスタンスファミリーと比較して、仮想プライベートクラウド (VPC) 、ネットワーク、およびディスクの平均帯域幅を2倍にします。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 中小規模のAIトレーニングワークロード

  • Compute Unified Device Architecture (CUDA) を使用して高速化されたハイパフォーマンスコンピューティング (HPC) ビジネス

  • 高いGPU処理能力または大量のGPUメモリを必要とするAI推論タスク

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション。

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの堅牢なGPUコンピューティング機能を必要とする科学的コンピューティングアプリケーション。

  重要

  トランスフォーマーモデルなど、通信負荷の高いAIトレーニングサービスを使用する場合は、GPU間通信でNVLinkを有効にする必要があります。 そうしないと、Peripheral Component Interconnect Express (PCIe) リンクを介した大規模なデータ送信によって引き起こされる予測不可能な障害により、データが損傷する可能性があります。 AIトレーニングサービスに使用される通信リンクのトポロジがわからない場合は、 チケットを起票してテクニカルサポートを受ける。

インスタンスタイプ

特徴:

• このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャを使用して、予測可能で一貫性のある超高性能を提供します。 このインスタンスファミリーは、チップ上で高速パス高速化を利用して、ストレージパフォーマンス、ネットワークパフォーマンス、およびコンピューティングの安定性を1桁向上させます。

• コンピューティング

  • 以下の機能を備えたNVIDIA A10 GPUを使用します。

    • 革新的なアンペアアーキテクチャ

    • RTXやTensorRTなどのアクセラレーション機能のサポート

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供する}スケーラブル (Ice Lake) プロセッサ。

  • 最大752 GiBのメモリを提供します。これは、gn6iインスタンスファミリーのメモリサイズよりもはるかに大きくなります。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像認識、音声認識、動作識別など、高性能なCPU、メモリ、GPUを必要とする同時AI推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高性能な3Dグラフィックス仮想化機能を必要とするコンピューティング集約型のグラフィックス処理タスク

インスタンスタイプ

特徴:

• このインスタンスファミリーは、NVIDIA Ampereアーキテクチャに基づく最新のIntel Ice LakeプロセッサとNVIDIA A30 GPUを使用します。 AIシナリオのビジネス要件を満たすために、GPUとvCPUを適切に組み合わせたインスタンスタイプを選択できます。

• このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャを使用し、前世代のインスタンスファミリーと比較して、VPC、ネットワーク、およびディスクの平均帯域幅を2倍にします。

• コンピューティング

  • 以下の機能を備えたNVIDIA A30 GPUを使用します。

    • 革新的なNVIDIA Ampereアーキテクチャ

    • マルチインスタンスGPU (MIG) 機能とアクセラレーション機能 (第2世代のTensorコアに基づく) をサポートし、多様なビジネスサポートを提供します。

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供する}スケーラブル (Ice Lake) プロセッサ。

  • 前世代のインスタンスファミリーからメモリサイズを大幅に改善します。

• ストレージ: 拡張SSD (ESSD) およびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされているシナリオ: 画像認識、音声認識、動作識別など、高性能なCPU、メモリ、およびGPUを必要とする同時AI推論タスク。

インスタンスタイプ

特徴:

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識などのAIアルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの堅牢なGPUコンピューティング機能を必要とする科学的コンピューティングアプリケーション

インスタンスタイプ

特徴:

• コンピューティング

  • 以下の機能を備えたNVIDIA T4 GPUを使用します。

    • 革新的なNVIDIAチューリングアーキテクチャ

    • 16 GPUあたりGBメモリ (320ギガバイト/秒帯域幅)

    • GPUあたり2,560 CUDAコア

    • GPUあたり最大320個のTuring Tensorコア

    • 65 FP16 TFLOPS、130 INT8 TOPS、および260 INT4 TOPSをサポートする混合精度Tensorコア

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • コンピュータービジョン、音声認識、音声合成、自然言語処理 (NLP)、機械翻訳、推奨システムの AI (深層学習と機械学習) 推論

  • クラウドゲームのリアルタイムレンダリング

  • AR・VR アプリケーションのリアルタイムレンダリング

  • グラフィックスワークステーションまたはグラフィックスの重いコンピューティング

  • GPU 高速化データベース

  • 高性能コンピューティング

インスタンスタイプ

特徴:

• コンピューティング

  • NVIDIA V100 GPUを使用し、それぞれ32 GBのGPUメモリを持ち、NVLinkをサポートしています。

  • 以下の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

    • 革新的なNVIDIA Voltaアーキテクチャ

    • 32 GPUあたりGB HBM2メモリ (900ギガバイト/秒帯域幅)

    • GPUあたり5,120 CUDAコア

    • 640 GPUごとのTensorコア

    • 最大6つのNVLink双方向接続をサポートします。各方向に25ギガバイト/秒の帯域幅を提供し、合計300ギガバイト/秒の帯域幅を提供します (6 × 25 × 2 = 300)

  • CPU 対メモリ比は 1:8。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

インスタンスタイプ

特徴:

• コンピューティング

  • NVIDIA V100 GPUを使用します。

  • 以下の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

    • 革新的なNVIDIA Voltaアーキテクチャ

    • 16 GPUあたりGB HBM2メモリ (900ギガバイト/秒帯域幅)

    • GPUあたり5,120 CUDAコア

    • 640 GPUごとのTensorコア

    • 最大6つのNVLink双方向接続をサポートします。各方向に25ギガバイト/秒の帯域幅を提供し、合計300ギガバイト/秒の帯域幅を提供します (6 × 25 × 2 = 300)

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

インスタンスタイプ

インスタンスタイプ

特徴:

• このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• コンピューティング

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供し、PCIe 4.0インターフェイスをサポートする}スケーラブル (Ice Lake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 24,000,000 ppsのパケット転送速度で超高ネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • ディープラーニングのトレーニングと開発

  • ハイパフォーマンスコンピューティング (HPC) とシミュレーション

  重要

  トランスフォーマーモデルなど、通信負荷の高いAIトレーニングサービスを使用する場合は、GPU間通信でNVLinkを有効にする必要があります。 そうしないと、Peripheral Component Interconnect Express (PCIe) リンクを介した大規模なデータ送信によって引き起こされる予測不可能な障害により、データが損傷する可能性があります。 AIトレーニングサービスに使用される通信リンクのトポロジがわからない場合は、 チケットを起票してテクニカルサポートを受ける。

インスタンスタイプ

特徴:

• このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• コンピューティング

  • 以下の機能を備えたNVIDIA A10 GPUを使用します。

    • 革新的なNVIDIA Ampereアーキテクチャ

    • vGPU、RTXテクノロジ、TensorRT推論エンジンなどの高速化機能のサポート

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供する}スケーラブル (Ice Lake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 24,000,000 ppsのパケット転送速度で超高ネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像認識、音声認識、動作識別など、高性能なCPU、メモリ、GPUを必要とする同時AI推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高性能な3Dグラフィックス仮想化機能を必要とするコンピューティング集約型のグラフィックス処理タスク

  • 高パフォーマンスのレンダーファームの作成など、高いネットワーク帯域幅とディスク帯域幅を必要とするシナリオ

  • 高いネットワーク帯域幅を必要とする小規模なディープラーニングおよびトレーニングアプリケーション

インスタンスタイプ

特徴:

• このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• コンピューティング

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8269CY (カスケード湖) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの堅牢なGPUコンピューティング機能を必要とする科学的コンピューティングアプリケーション

インスタンスタイプ

特徴:

• このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャとチップ上の高速パスアクセラレーションを使用して、予測可能で一貫性のある超高度なコンピューティング、ストレージ、およびネットワークパフォーマンスを提供します。

• このインスタンスファミリーは、NVIDIA T4 GPUを使用してグラフィックスおよびAIアプリケーション用のGPUアクセラレーション機能を提供し、コンテナテクノロジーを採用して最大60台の仮想Androidデバイスを起動し、ハードウェアで高速化されたビデオトランスコーディングを提供します。

• コンピューティング

  • CPU とメモリの比率は 1：3

  • 2.8 GHzアンペア^を使用®Altra ^®Armベースのプロセッサは、3.0 GHzのターボ周波数を提供し、Androidサーバー用のアプリケーションとの高いパフォーマンスと高い互換性を提供します。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

• サポートされるシナリオ:

  • 常時接続のクラウドベースのサービス、クラウドベースのモバイルゲーム、クラウドベースの携帯電話、Androidサービスクローラーなど、Androidベースのリモートアプリケーションサービス。

インスタンスタイプ

特徴:

• このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• このインスタンスファミリーは、それぞれ32 GBのGPUメモリを持ち、NVLinkをサポートするNVIDIA V100 GPUを使用します。

• このインスタンスファミリーは、次の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

  • 革新的なNVIDIA Voltaアーキテクチャ。

  • 32 GPUあたりHBM2メモリ (900ギガバイト/秒帯域幅) のGB。

  • 5,120 CUDA core / GPU

  • 640 GPUごとのTensorコア。

  • GPUごとに最大6つのNVLink接続をサポートします。 各NVLink接続は、全帯域幅300ギガバイト/秒 (6 × 25 × 2 = 300) に対して各方向に25ギガバイト/秒の帯域幅を提供する。

• コンピューティング

  • CPU 対メモリ比は 1:8。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

インスタンスタイプ

特徴:

• このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• このインスタンスファミリーはNVIDIA V100 GPUを使用します。

• このインスタンスファミリーは、次の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

  • 革新的なNVIDIA Voltaアーキテクチャ。

  • 16 GPUあたりHBM2メモリのGB (900ギガバイト/秒帯域幅)

  • 5,120 CUDA core / GPU

  • 640 GPUごとのTensorコア。

  • GPUごとに最大6つのNVLink接続をサポートします。 各NVLink接続は、全帯域幅300ギガバイト/秒 (6 × 25 × 2 = 300) に対して各方向に25ギガバイト/秒の帯域幅を提供する。

• コンピューティング

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

インスタンスタイプ

特徴:

• このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• このインスタンスファミリーは、次の機能を備えたNVIDIA T4 GPUを使用します。

  • 革新的なNVIDIAチューリングアーキテクチャ

  • 16 GPUあたりGBのメモリ (320ギガバイト/秒帯域幅)

  • GPUあたり2,560 CUDAコア

  • GPUあたり最大320個のTuring Tensorコア

  • 65 FP16 TFLOPS、130 INT8 TOPS、および260 INT4 TOPSをサポートする混合精度Tensorコア

• コンピューティング

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • コンピュータビジョン、音声認識、音声合成、自然言語処理 (NLP) 、機械翻訳、および参照システムのためのAI (ディープラーニングおよび機械学習) 推論

  • クラウドゲームのリアルタイムレンダリング

  • AR・VR アプリケーションのリアルタイムレンダリング

  • グラフィックスワークステーションまたはグラフィックスの重いコンピューティング

  • GPU 高速化データベース

  • 高性能コンピューティング

インスタンスタイプ

特徴:

• コンピューティング

  • NVIDIA P4 GPUを使用します。

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®E5-2682 v4 (Broadwell) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • 標準SSDとウルトラディスクのみをサポートします。

• ネットワーク

  • IPv6をサポート

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

• サポートされるシナリオ:

  • ディープラーニング推論

  • サーバー側のGPUコンピューティングワークロード (マルチメディアエンコードやデコードなど)

インスタンスタイプ