Elastic GPU Service:GPU高速化コンピューティング最適化インスタンスファミリー (gn、ebm、sccシリーズ)

インスタンスタイプ

特徴:

• はじめに:

  • AIユースケースのビジネス要件を満たすために、さまざまな数のGPUとCPUを提供するインスタンスタイプを選択できます。

  • このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャを使用し、前世代のインスタンスファミリーと比較して、仮想プライベートクラウド (VPC) 、ネットワーク、およびディスクの平均帯域幅を2倍にします。

• サポートされるシナリオ:

  • 中小規模のAIトレーニング

  • Compute Unified Device Architecture (CUDA) を使用して高速化されたハイパフォーマンスコンピューティング (HPC) ビジネス

  • 高いGPU処理能力または大量のGPUメモリを必要とするAI推論タスク

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析など、堅牢なGPUコンピューティング機能を必要とする科学的コンピューティングアプリケーション

  重要

  トランスフォーマーモデルなど、通信負荷の高いAIトレーニングサービスを使用する場合は、GPU間通信でNVLinkを有効にする必要があります。 そうしないと、Peripheral Component Interconnect Express (PCIe) リンクを介した大規模なデータ送信によって引き起こされる予測不可能な障害により、データが損傷する可能性があります。 AIトレーニングサービスに使用される通信リンクのトポロジがわからない場合は、

  チケットを起票してテクニカルサポートを受ける。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに: このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャを使用して、予測可能で一貫性のある超高性能を提供します。 このインスタンスファミリーは、チップ上で高速パス高速化を利用して、ストレージパフォーマンス、ネットワークパフォーマンス、およびコンピューティングの安定性を1桁向上させます。

• サポートされるシナリオ:

  • 画像認識、音声認識、動作識別など、高性能なCPU、メモリ、GPUを必要とする同時AI推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高性能な3Dグラフィックス仮想化機能を必要とするコンピューティング集約型のグラフィックス処理タスク

• 計算:

  • 以下の機能を備えたNVIDIA A10 GPUを使用します。

    • 革新的なNVIDIA Ampereアーキテクチャ

    • RTXやTensorRTなどのアクセラレーション機能のサポート

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供する}スケーラブル (Ice Lake) プロセッサ。

  • 最大752 GiBのメモリを提供します。これは、gn6iインスタンスファミリーのメモリサイズよりもはるかに大きくなります。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、NVIDIA Ampereアーキテクチャに基づく最新のIntel Ice LakeプロセッサとNVIDIA A30 GPUを使用します。 AIシナリオのビジネス要件を満たすために、GPUとvCPUを適切に組み合わせたインスタンスタイプを選択できます。

  • このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャを使用し、前世代のインスタンスファミリーと比較して、VPC、ネットワーク、およびディスクの平均帯域幅を2倍にします。

• サポートされているシナリオ: 画像認識、音声認識、動作識別など、高性能なCPU、メモリ、GPUを必要とする同時AI推論タスク。

• 計算:

  • 以下の機能を備えたNVIDIA A30 GPUを使用します。

    • 革新的なNVIDIA Ampereアーキテクチャ

    • マルチインスタンスGPU (MIG) 機能とアクセラレーション機能 (第2世代のTensorコアに基づく) をサポートし、多様なビジネスサポートを提供します。

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供する}スケーラブル (Ice Lake) プロセッサ。

  • 前世代のインスタンスファミリーからメモリサイズを大幅に改善します。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析など、堅牢なGPUコンピューティング機能を必要とする科学的コンピューティングアプリケーション

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSDおよびESSD AutoPLディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• サポートされるシナリオ:

  • コンピュータービジョン、音声認識、音声合成、自然言語処理 (NLP)、機械翻訳、推奨システムの AI (深層学習と機械学習) 推論

  • クラウドゲームのリアルタイムレンダリング

  • AR・VR アプリケーションのリアルタイムレンダリング

  • グラフィックスワークステーションまたはグラフィックスの重いコンピューティング

  • GPU 高速化データベース

  • 高性能コンピューティング

• 計算:

  • 以下の機能を備えたNVIDIA T4 GPUを使用します。

    • 革新的なNVIDIAチューリングアーキテクチャ

    • 16 GPUあたりGBのメモリ (320ギガバイト/秒帯域幅)

    • GPUあたり2,560 CUDAコア

    • GPUあたり最大320個のTuring Tensorコア

    • 65 FP16 TFLOPS、130 INT8 TOPS、および260 INT4 TOPSをサポートする混合精度Tensorコア

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

• 計算:

  • それぞれ32 GBのGPUメモリを持ち、NVLinkをサポートするNVIDIA V100 GPUを使用しています。

  • 以下の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

    • 革新的なNVIDIA Voltaアーキテクチャ

    • 32 GPUあたりHBM2メモリのGB (900ギガバイト/秒帯域幅)

    • GPUあたり5,120 CUDAコア

    • 640 GPUごとのTensorコア

    • GPUごとに最大6つのNVLink双方向接続があり、それぞれが各方向に25 Gbit/sの帯域幅を提供し、合計帯域幅が300 Gbit/s (6 × 25 × 2 = 300)

  • CPU 対メモリ比は 1:8。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

• 計算:

  • NVIDIA V100 GPUを使用します。

  • 以下の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

    • 革新的なNVIDIA Voltaアーキテクチャ

    • 16 GPUあたりHBM2メモリのGB (900ギガバイト/秒帯域幅)

    • GPUあたり5,120 CUDAコア

    • 640 GPUごとのTensorコア

    • GPUごとに最大6つのNVLink双方向接続があり、それぞれが各方向に25 Gbit/sの帯域幅を提供し、合計帯域幅が300 Gbit/s (6 × 25 × 2 = 300)

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。

• ネットワーク：

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

インスタンスタイプ

• はじめに: このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• サポートされるシナリオ:

  • ディープラーニングのトレーニングと開発

  • ハイパフォーマンスコンピューティング (HPC) とシミュレーション

  重要

  トランスフォーマーモデルなど、通信負荷の高いAIトレーニングサービスを使用する場合は、GPU間通信でNVLinkを有効にする必要があります。 そうしないと、Peripheral Component Interconnect Express (PCIe) リンクを介した大規模なデータ送信によって引き起こされる予測不可能な障害により、データが損傷する可能性があります。 AIトレーニングサービスに使用される通信リンクのトポロジがわからない場合は、

  チケットを起票してテクニカルサポートを受ける。

• 計算:

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供し、PCIe 4.0インターフェイスをサポートする}スケーラブルなプロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • エンタープライズSSD (ESSD) およびESSD AutoPLディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 24,000,000 ppsのパケット転送速度で超高ネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに: このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• サポートされるシナリオ:

  • 画像認識、音声認識、動作識別など、高性能なCPU、メモリ、GPUを必要とする同時AI推論タスク

  • リモートグラフィックデザインやクラウドゲームなど、高性能な3Dグラフィックス仮想化機能を必要とするコンピューティング集約型のグラフィックス処理タスク

  • 高パフォーマンスのレンダーファームの作成など、高いネットワーク帯域幅とディスク帯域幅を必要とするシナリオ

  • 高いネットワーク帯域幅を必要とする小規模なディープラーニングおよびトレーニングアプリケーション

• 計算:

  • 以下の機能を備えたNVIDIA A10 GPUを使用します。

    • 革新的なNVIDIA Ampereアーキテクチャ

    • vGPU、RTXテクノロジ、TensorRT推論エンジンなどの高速化機能のサポート

  • 2.9 GHzインテル^を使用®Xeon ^{®3.5 GHzのオールコアターボ周波数を提供する}スケーラブル (Ice Lake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • エンタープライズSSD (ESSD) およびESSD AutoPLディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 24,000,000 ppsのパケット転送速度で超高ネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに: このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングアプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析など、堅牢なGPUコンピューティング機能を必要とする科学的コンピューティングアプリケーション

• 計算:

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8269CY (カスケード湖) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • エンタープライズSSD (ESSD) およびESSD AutoPLディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、第3世代のSHENLONGアーキテクチャとチップ上の高速パスアクセラレーションを使用して、予測可能で一貫性のある超高度なコンピューティング、ストレージ、およびネットワークパフォーマンスを提供します。

  • このインスタンスファミリーは、NVIDIA T4 GPUを使用してグラフィックスおよびAIアプリケーション用のGPUアクセラレーション機能を提供し、コンテナテクノロジーを採用して60台以上の仮想Androidデバイスを起動し、ハードウェアで高速化されたビデオトランスコーディングを提供します。

• サポートされるシナリオ:

  • 常時接続のクラウドベースのサービス、クラウドベースのモバイルゲーム、クラウドベースの携帯電話、Androidサービスクローラーなど、Androidベースのリモートアプリケーションサービス。

• 計算:

  • CPU とメモリの比率は 1：3

  • 2.8 GHzアンペア^を使用®Altra ^®Armベースのプロセッサは、3.0 GHzのターボ周波数を提供し、Androidサーバー用のアプリケーションとの高いパフォーマンスと高い互換性を提供します。

• ストレージ:

  • I/O 最適化インスタンス。

  • エンタープライズSSD (ESSD) およびESSD AutoPLディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

  • このインスタンスファミリーは、それぞれ32 GBのGPUメモリを持ち、NVLinkをサポートするNVIDIA V100 GPUを使用します。

  • このインスタンスファミリーは、次の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

    • 革新的なNVIDIA Voltaアーキテクチャ

    • 32 GPUあたりHBM2メモリのGB (900ギガバイト/秒帯域幅)

    • GPUあたり5,120 CUDAコア

    • 640 GPUごとのTensorコア

    • GPUごとに最大6つのNVLink接続があり、それぞれが各方向に25ギガバイト/秒の帯域幅を提供し、合計帯域幅は300ギガバイト/秒です (6 × 25 × 2 = 300) 。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

• 計算:

  • CPU 対メモリ比は 1:8。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

  • このインスタンスファミリーはNVIDIA V100 GPUを使用します。

  • このインスタンスファミリーは、次の機能を備えたNVIDIA V100 GPU (SXM2-based) を使用します。

    • 革新的なNVIDIA Voltaアーキテクチャ

    • 16 GPUあたりHBM2メモリのGB (900ギガバイト/秒帯域幅)

    • GPUあたり5,120 CUDAコア

    • 640 GPUごとのTensorコア

    • GPUごとに最大6つのNVLink接続があり、それぞれが各方向に25ギガバイト/秒の帯域幅を提供し、合計帯域幅は300ギガバイト/秒です (6 × 25 × 2 = 300) 。

• サポートされるシナリオ:

  • 画像分類、自動運転車、音声認識で使用されるAIアルゴリズムのトレーニングおよび推論アプリケーションなどのディープラーニングアプリケーション

  • 計算流体力学、計算ファイナンス、分子力学、環境分析などの科学的コンピューティングアプリケーション

• 計算:

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• はじめに:

  • このインスタンスファミリーは、SHENLONGアーキテクチャを使用して、柔軟で強力なソフトウェア定義コンピューティングを提供します。

  • このインスタンスファミリーは、次の機能を備えたNVIDIA T4 GPUを使用します。

    • 革新的なNVIDIAチューリングアーキテクチャ

    • 16 GPUあたりGBのメモリ (320ギガバイト/秒帯域幅)

    • GPUあたり2,560 CUDAコア

    • GPUあたり最大320個のTuring Tensorコア

    • 65 FP16 TFLOPS、130 INT8 TOPS、および260 INT4 TOPSをサポートする混合精度Tensorコア

• サポートされるシナリオ:

  • コンピュータビジョン、音声認識、音声合成、自然言語処理 (NLP) 、機械翻訳、および参照システムのためのAI (ディープラーニングおよび機械学習) 推論

  • クラウドゲームのリアルタイムレンダリング

  • 拡張現実 (AR) およびバーチャルリアリティ (VR) アプリケーションのリアルタイムレンダリング

  • グラフィックスワークステーションまたはグラフィックスの重いコンピューティング

  • GPU 高速化データベース

  • 高性能コンピューティング

• 計算:

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®プラチナ8163 (Skylake) プロセッサ。

• ストレージ:

  • I/O 最適化インスタンス。

  • ESSD、ESSD AutoPLディスク、標準SSD、およびウルトラディスクをサポートします。 ディスクについては、「ブロックストレージの概要」をご参照ください。

• ネットワーク:

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• サポートされているシナリオ: ディープラーニング推論やマルチメディアのエンコードとデコードなど、サーバー側のGPU計算ワークロード。

• コンピューティング

  • NVIDIA P4 GPUを使用します。

  • CPU 対メモリ比は 1:4。

  • 2.5 GHzインテル^を使用®Xeon ^®E5-2682 v4 (Broadwell) プロセッサ。

• ストレージ

  • I/O 最適化インスタンス。

  • 標準 SSD および Ultra ディスクをサポート。

• ネットワーク

  • IPv4およびIPv6をサポート。 IPv6通信の詳細については、「IPv6通信」をご参照ください。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ

• サポートされるシナリオ:

  • 深層学習

  • 計算流体力学、計算ファイナンス、ゲノミクス、環境分析などの科学的コンピューティングアプリケーション

  • 高性能コンピューティング、レンダリング、マルチメディアのエンコードとデコードなど、サーバー側のGPUコンピューティングワークロード

• 計算:

  • NVIDIA P100 GPUを使用します。

  • 複数の CPU とメモリの比率を提供

  • 2.5 GHzインテル^を使用®Xeon ^®E5-2682 v4 (Broadwell) プロセッサ。

• ストレージ:

  • 高パフォーマンスのローカル不揮発性メモリエクスプレス (NVMe) SSDをサポートします。

  • I/O 最適化インスタンス。

  • 標準 SSD および Ultra ディスクをサポート。

• ネットワーク：

  • IPv4のみをサポート。

  • 大規模コンピューティング能力で、高いネットワークパフォーマンスを提供します。

インスタンスタイプ