Elastic GPU Service：GPU計算型執行個體規格類型系列（gn/ebm/scc系列）

gn8is包括的執行個體規格及指標資料如下表所示。

gn7e的特點如下：

• 規格類型系列介紹：

  • 您可以根據需要選擇不同數量的卡和不同CPU資源的規格，靈活適應其不同的AI業務需求。

  • 依託第三代神龍架構，VPC和雲端硬碟網路頻寬相比上一代平均提升一倍。

• 適用情境：

  • 中小規模的AI訓練業務。

  • 使用CUDA進行加速的HPC業務。

  • 對GPU處理能力或顯存容量需求較高的AI推理業務。

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練應用。

  • 高GPU負載的科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

  重要

  在使用高通訊負載的AI訓練業務如Transformer等模型時，務必啟用NVLink進行GPU間的資料通訊，否則可能由於PCIe鏈路大規模資料轉送引起非預期的故障，導致資料受損。如不確定您使用的訓練通訊鏈路拓撲，請提交工單由阿里雲技術專家為您提供支援人員。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟和ESSD AutoPL雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn7e包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：依託第三代神龍架構，提供穩定可預期的超高效能。同時通過晶片快速路徑加速手段，完成儲存、網路效能以及計算穩定性的數量級提升。

• 適用情境：

  • 配備高效能CPU、記憶體、GPU，可以處理更多並發AI推理任務，適用於Image Recognition、語音辨識、行為識別業務。

  • 支援RTX功能，搭配高主頻CPU，提供高效能的3D圖形虛擬化能力，適用於遠程圖形設計、雲遊戲等高強度圖形處理業務。

• 計算：

  • 採用NVIDIA A10 GPU卡。

    • 創新的Ampere架構。

    • 支援RTX、TensorRT等常用加速功能。

  • 處理器：2.9 GHz主頻的Intel ^® Xeon ^® 可擴充處理器（Ice Lake），全核睿頻3.5 GHz。

  • 最大可提供752 GiB記憶體，相比gn6i大幅提升。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟和ESSD AutoPL雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn7i包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  • 採用全新的Intel IceLake處理器，同時搭載Nvidia Ampere架構的NVIDIA A30 GPU卡，您可以根據需要選擇不同卡數和不同CPU資源的規格，靈活適應不同的AI業務需求。

  • 基於阿里雲全新的第三代神龍架構，VPC和雲端硬碟網路頻寬相比上一代平均提升一倍。

• 適用情境：配備高效能CPU、記憶體、GPU，可以處理更多並發AI推理業務需求，適用於Image Recognition、語音辨識、行為識別業務。

• 計算：

  • 採用NVIDIA A30 GPU卡。

    • 創新的Nvidia Ampere架構。

    • 支援MIG（Multi-Instance GPU）功能、加速功能（基於第二代Tensor Cores加速），提供多種業務支援。

  • 處理器：2.9 GHz主頻的Intel ^® Xeon ^® 可擴充處理器（Ice Lake），全核睿頻3.5 GHz。

  • 容量記憶體相比上一代執行個體規格類型系列大幅提升。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟和ESSD AutoPL雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn7s包括的執行個體規格及指標資料如下表所示：

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練應用。

  • 高GPU負載的科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟和ESSD AutoPL雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn7包括的執行個體規格及指標資料如下表所示。

• 適用情境：

  • AI（DL和ML）推理，適合電腦視覺、語音辨識、語音合成、NLP、機器翻譯、推薦系統。

  • 雲遊戲雲端即時渲染。

  • AR和VR的雲端即時渲染。

  • 重載圖形計算或圖形工作站。

  • GPU加速資料庫。

  • 高效能運算。

• 計算：

  • GPU加速器：T4 。

    • 創新的Turing架構。

    • 單GPU顯存16 GB（GPU顯存頻寬320 GB/s）。

    • 單GPU 2560個CUDA Cores。

    • 單GPU多達320個Turing Tensor Cores。

    • 可變精度Tensor Cores支援65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS。

  • 處理器與記憶體配比約為1:4。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn6i包括的執行個體規格及指標資料如下表所示。

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練、推理應用。

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

• 計算：

  • 採用NVIDIA V100（32 GB NVLink）GPU卡。

  • GPU加速器：V100（SXM2封裝）。

    • 創新的Volta架構。

    • 單GPU顯存32 GB HBM2（GPU顯存頻寬900 GB/s）。

    • 單GPU 5120個CUDA Cores。

    • 單GPU 640個Tensor Cores。

    • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 Gbit/s，總頻寬為6×25×2=300 Gbit/s。

  • 處理器與記憶體配比約為1:8。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn6e包括的執行個體規格及指標資料如下表所示。

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練、推理應用。

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

• 計算：

  • 採用NVIDIA V100 GPU卡。

  • GPU加速器：V100（SXM2封裝） 。

    • 創新的Volta架構。

    • 單GPU顯存16 GB HBM2（GPU顯存頻寬900 GB/s）。

    • 單GPU 5120個CUDA Cores。

    • 單GPU 640個Tensor Cores。

    • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 Git/s，總頻寬為6×25×2=300 Git/s。

  • 處理器與記憶體配比約為1:4。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn6v包括的執行個體規格及指標資料如下表所示。

ebmgn8is包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  ebmgn7e是基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備的執行個體規格類型系列。

• 適用情境：

  • 各類深度學習訓練開發業務

  • HPC加速計算和模擬

  重要

  在使用高通訊負載的AI訓練業務如Transformer等模型時，務必啟用NVLink進行GPU間的資料通訊，否則可能由於PCIe鏈路大規模資料轉送引起非預期的故障，導致資料受損。如不確定您使用的訓練通訊鏈路拓撲，請提交工單由阿里雲技術專家為您提供支援人員。

• 計算：

  • 處理器：基於Intel ^® Xeon ^®Scalable計算平台，2.9 GHz主頻，全核睿頻3.5 GHz，支援PCIe 4.0介面

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv4、IPv6

  • 超高網路效能，2400萬PPS網路收發包能力

ebmgn7e包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  ebmgn7i是基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備的執行個體規格類型系列。

• 適用情境：

  • 配備高效能CPU、記憶體、GPU，可以處理更多並發AI推理任務，適用於Image Recognition、語音辨識、行為識別業務。

  • 支援RTX功能，搭配高主頻CPU，提供高效能的3D圖形虛擬化能力，適用於遠程圖形設計、雲遊戲等高強度圖形處理業務。

  • 支援RTX功能，搭配高網路頻寬和雲端硬碟頻寬，適用於搭建高效能渲染農場。

  • 配備多個GPU，搭配高網路頻寬，適用於小規模深度學習訓練業務。

• 計算：

  • 採用NVIDIA A10 GPU計算卡

    • 創新的Ampere架構

    • 支援vGPU、RTX、TensorRT等常用加速功能

  • 處理器：2.9 GHz主頻的Intel ^® Xeon ^®可擴充處理器（Ice Lake），全核睿頻3.5 GHz

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv4、IPv6

  • 超高網路效能，2400萬PPS網路收發包能力

ebmgn7i包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  ebmgn7基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備的執行個體規格類型系列。

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練應用。

  • 高GPU負載的科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

• 計算：

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8269CY（Cascade Lake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv4、IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

ebmgn7包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  • 依託第三代神龍架構，通過晶片快速路徑加速手段，提供穩定可預期的超高計算、儲存和網路效能。

  • 採用NVIDIA T4 GPU計算加速器提供GPU加速能力，助力圖形和AI業務，搭配容器技術可以提供60路以上虛擬Android終端，並對每路終端顯示進行硬體視頻轉碼加速。

• 適用情境：

  • 基於Android提供App遠端服務，例如雲業務線上待機、雲手遊和雲手機、Android業務爬蟲。

• 計算：

  • 處理器與記憶體配比約為1:3。

  • 處理器：2.8 GHz主頻的Ampere^® Altra^®處理器，睿頻3.0 GHz，原生ARM計算平台為Android伺服器提供高效的效能和優秀的App相容性。

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv4、IPv6

ebmgn6ia包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  • ebmgn6e是基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備的執行個體規格類型系列。

  • 採用NVIDIA V100（32 GB NVLink） GPU計算卡

  • GPU加速器為V100（SXM2封裝） ，特點如下：

    • 創新的Volta架構

    • 單GPU顯存32 GB HBM2（GPU顯存頻寬900 GB/s）

    • 單GPU 5120個CUDA Cores

    • 單GPU 640個Tensor Cores

    • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 GB/s，總頻寬為6×25×2=300 GB/s

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練以及推理應用。

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

• 計算：

  • 處理器與記憶體配比為1:8。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 儲存：

  • I/O最佳化執行個體。

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）。

ebmgn6e包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  • ebmgn6v是基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備的執行個體規格類型系列。

  • 採用NVIDIA V100 GPU計算卡

  • GPU加速器為V100（SXM2封裝） ，特點如下：

    • 創新的Volta架構

    • 單GPU顯存16 GB HBM2（GPU顯存頻寬900 GB/s）

    • 單GPU 5120個CUDA Cores

    • 單GPU 640個Tensor Cores

    • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 GB/s，總頻寬為6×25×2=300 GB/s

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練以及推理應用

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等。

• 計算：

  • 處理器與記憶體配比為1:4。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）。

ebmgn6v包括的執行個體規格及指標資料如下表所示。

• 規格類型系列介紹：

  • ebmgn6i是基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備的執行個體規格類型系列。

  • GPU加速器為T4 ，特點如下：

    • 創新的Turing架構

    • 單GPU顯存16 GB（GPU顯存頻寬320 GB/s）

    • 單GPU 2560個CUDA Cores

    • 單GPU多達320個Turing Tensor Cores

    • 可變精度Tensor Cores支援65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS

• 適用情境：

  • AI（DL/ML）推理，適合電腦視覺、語音辨識、語音合成、NLP、機器翻譯、推薦系統。

  • 雲遊戲雲端即時渲染。

  • AR/VR的雲端即時渲染。

  • 重載圖形計算或圖形工作站。

  • GPU加速資料庫。

  • 高效能運算。

• 計算：

  • 處理器與記憶體配比為1:4。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）。

• 儲存：

  • I/O最佳化執行個體。

  • 僅支援ESSD、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）。

ebmgn6i包括的執行個體規格及指標資料如下表所示。

• 適用情境： 深度學習推理、多媒體編解碼等伺服器端GPU計算工作負載。

• 計算：

  • 採用NVIDIA P4 GPU卡。

  • 處理器與記憶體配比為1:4。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® E5-2682 v4（Broadwell）。

• 儲存：

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 支援IPv4、IPv6。關於IPv6通訊，參見IPv6通訊。

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn5i包括的執行個體規格及指標資料如下：

• 適用情境：

  • 深度學習。

  • 科學計算，例如計算流體動力學、計算金融學、基因體學研究、環境分析。

  • 高效能運算、渲染、多媒體編解碼及其他伺服器端GPU計算工作負載。

• 計算：

  • 採用NVIDIA P100 GPU卡。

  • 多種處理器與記憶體配比。

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® E5-2682 v4（Broadwell）。

• 儲存：

  • 配備高效能NVMe SSD本地碟。

  • I/O最佳化執行個體。

  • 支援的雲端硬碟類型：SSD雲端硬碟和高效雲端硬碟。

• 網路：

  • 僅支援IPv4

  • 執行個體網路效能與執行個體規格對應，規格越高網路效能越強。

gn5包括的執行個體規格及指標資料如下表所示。