Elastic GPU Service：GPU計算型執行個體規格類型系列

gn8is包括的執行個體規格及指標資料如下表所示。

gn7e的特點如下：

• 您可以根據需要選擇不同數量的卡和不同CPU資源的規格，靈活適應其不同的AI業務需求。

• 依託第三代神龍架構，VPC和雲端硬碟網路頻寬相比上一代平均提升一倍。

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 中小規模的AI訓練業務

  • 使用CUDA進行加速的HPC業務

  • 對GPU處理能力或顯存容量需求較高的AI推理業務

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練應用

  • 高GPU負載的科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

  重要

  在使用高通訊負載的AI訓練業務如Transformer等模型時，務必啟用NVLink進行GPU間的資料通訊，否則可能由於PCIe鏈路大規模資料轉送引起非預期的故障，導致資料受損。如不確定您使用的訓練通訊鏈路拓撲，請提交工單由阿里雲技術專家為您提供支援人員。

gn7e包括的執行個體規格及指標資料如下表所示。

gn7i的特點如下：

• 依託第三代神龍架構，提供穩定可預期的超高效能。同時通過晶片快速路徑加速手段，完成儲存、網路效能以及計算穩定性的數量級提升。

• 計算：

  • 採用NVIDIA A10 GPU卡

    • 創新的Ampere架構

    • 支援RTX、TensorRT等常用加速功能

  • 處理器：2.9 GHz主頻的Intel ^® Xeon ^® 可擴充處理器（Ice Lake），全核睿頻3.5 GHz

  • 最大可提供752 GiB記憶體，相比gn6i大幅提升

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 配備高效能CPU、記憶體、GPU，可以處理更多並發AI推理任務，適用於Image Recognition、語音辨識、行為識別業務

  • 支援RTX功能，搭配高主頻CPU，提供高效能的3D圖形虛擬化能力，適用於遠程圖形設計、雲遊戲等高強度圖形處理業務

gn7i包括的執行個體規格及指標資料如下表所示。

gn7s的特點如下：

• 採用全新的Intel IceLake處理器，同時搭載Nvidia Ampere架構的NVIDIA A30 GPU卡，您可以根據需要選擇不同卡數和不同CPU資源的規格，靈活適應不同的AI業務需求。

• 基於阿里雲全新的第三代神龍架構，VPC和雲端硬碟網路頻寬相比上一代平均提升一倍。

• 計算：

  • 採用NVIDIA A30 GPU卡

    • 創新的Nvidia Ampere架構

    • 支援MIG（Multi-Instance GPU）功能、加速功能（基於第二代Tensor Cores加速），提供多種業務支援。

  • 處理器：2.9 GHz主頻的Intel ^® Xeon ^® 可擴充處理器（Ice Lake），全核睿頻3.5 GHz

  • 容量記憶體相比上一代執行個體規格類型系列大幅提升

• 儲存：僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：配備高效能CPU、記憶體、GPU，可以處理更多並發AI推理業務需求，適用於Image Recognition、語音辨識、行為識別業務。

gn7s包括的執行個體規格及指標資料如下表所示：

gn7的特點如下：

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練應用

  • 高GPU負載的科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

gn7包括的執行個體規格及指標資料如下表所示。

gn6i的特點如下：

• 計算：

  • GPU加速器：T4

    • 創新的Turing架構

    • 單GPU顯存16 GB（GPU顯存頻寬320 GB/s）

    • 單GPU 2560個CUDA Cores

    • 單GPU多達320個Turing Tensor Cores

    • 可變精度Tensor Cores支援65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS

  • 處理器與記憶體配比約為1:4

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • AI（DL和ML）推理，適合電腦視覺、語音辨識、語音合成、NLP、機器翻譯、推薦系統

  • 雲遊戲雲端即時渲染

  • AR和VR的雲端即時渲染

  • 重載圖形計算或圖形工作站

  • GPU加速資料庫

  • 高效能運算

gn6i包括的執行個體規格及指標資料如下表所示。

gn6e的特點如下：

• 計算：

  • 採用NVIDIA V100（32 GB NVLink）GPU卡

  • GPU加速器：V100（SXM2封裝）

    • 創新的Volta架構

    • 單GPU顯存32 GB HBM2（GPU顯存頻寬900 GB/s）

    • 單GPU 5120個CUDA Cores

    • 單GPU 640個Tensor Cores

    • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 Git/s，總頻寬為6×25×2=300 Git/s

  • 處理器與記憶體配比約為1:8

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練、推理應用

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

gn6e包括的執行個體規格及指標資料如下表所示。

gn6v的特點如下：

• 計算：

  • 採用NVIDIA V100 GPU卡

  • GPU加速器：V100（SXM2封裝）

    • 創新的Volta架構

    • 單GPU顯存16 GB HBM2（GPU顯存頻寬900 GB/s）

    • 單GPU 5120個CUDA Cores

    • 單GPU 640個Tensor Cores

    • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 Git/s，總頻寬為6×25×2=300 Git/s

  • 處理器與記憶體配比約為1:4

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練、推理應用

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

gn6v包括的執行個體規格及指標資料如下表所示。

ebmgn8is包括的執行個體規格及指標資料如下表所示。

ebmgn7e的特點如下：

• 基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備

• 計算：

  • 處理器：基於Intel ^® Xeon ^®Scalable計算平台，2.9 GHz主頻，全核睿頻3.5 GHz，支援PCIe 4.0介面

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 超高網路效能，2400萬PPS網路收發包能力

• 適用情境：

  • 各類深度學習訓練開發業務

  • HPC加速計算和模擬

  重要

  在使用高通訊負載的AI訓練業務如Transformer等模型時，務必啟用NVLink進行GPU間的資料通訊，否則可能由於PCIe鏈路大規模資料轉送引起非預期的故障，導致資料受損。如不確定您使用的訓練通訊鏈路拓撲，請提交工單由阿里雲技術專家為您提供支援人員。

ebmgn7e包括的執行個體規格及指標資料如下表所示。

ebmgn7i的特點如下：

• 基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備

• 計算：

  • 採用NVIDIA A10 GPU計算卡

    • 創新的Ampere架構

    • 支援vGPU、RTX、TensorRT等常用加速功能

  • 處理器：2.9 GHz主頻的Intel ^® Xeon ^®可擴充處理器（Ice Lake），全核睿頻3.5 GHz

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 超高網路效能，2400萬PPS網路收發包能力

• 適用情境：

  • 配備高效能CPU、記憶體、GPU，可以處理更多並發AI推理任務，適用於Image Recognition、語音辨識、行為識別業務

  • 支援RTX功能，搭配高主頻CPU，提供高效能的3D圖形虛擬化能力，適用於遠程圖形設計、雲遊戲等高強度圖形處理業務

  • 支援RTX功能，搭配高網路頻寬和雲端硬碟頻寬，適用於搭建高效能渲染農場

  • 配備多個GPU，搭配高網路頻寬，適用於小規模深度學習訓練業務

ebmgn7i包括的執行個體規格及指標資料如下表所示。

ebmgn7的特點如下：

• 基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備

• 計算：

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8269CY（Cascade Lake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練應用

  • 高GPU負載的科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

ebmgn7包括的執行個體規格及指標資料如下表所示。

ebmgn6ia的特點如下：

• 依託第三代神龍架構，通過晶片快速路徑加速手段，提供穩定可預期的超高計算、儲存和網路效能

• 採用NVIDIA T4 GPU計算加速器提供GPU加速能力，助力圖形和AI業務，搭配容器技術可以提供60路以上虛擬Android終端，並對每路終端顯示進行硬體視頻轉碼加速

• 計算：

  • 處理器與記憶體配比約為1:3

  • 處理器：2.8 GHz主頻的Ampere^® Altra^®處理器，睿頻3.0 GHz，原生ARM計算平台為Android伺服器提供高效的效能和優秀的App相容性

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟和ESSD AutoPL雲端硬碟

• 網路：

  • 支援IPv6

• 適用情境：

  • 基於Android提供App遠端服務，例如雲業務線上待機、雲手遊和雲手機、Android業務爬蟲

ebmgn6ia包括的執行個體規格及指標資料如下表所示。

ebmgn6e的特點如下：

• 基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備

• 採用NVIDIA V100（32 GB NVLink） GPU計算卡

• GPU加速器：V100（SXM2封裝）

  • 創新的Volta架構

  • 單GPU顯存32 GB HBM2（GPU顯存頻寬900 GB/s）

  • 單GPU 5120個CUDA Cores

  • 單GPU 640個Tensor Cores

  • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 GB/s，總頻寬為6×25×2=300 GB/s

• 計算：

  • 處理器與記憶體配比為1:8

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練以及推理應用

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

ebmgn6e包括的執行個體規格及指標資料如下表所示。

ebmgn6v的特點如下：

• 基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備

• 採用NVIDIA V100 GPU計算卡

• GPU加速器：V100（SXM2封裝）

  • 創新的Volta架構

  • 單GPU顯存16 GB HBM2（GPU顯存頻寬900 GB/s）

  • 單GPU 5120個CUDA Cores

  • 單GPU 640個Tensor Cores

  • 單GPU支援6個NVLink鏈路（NVLink屬於雙向鏈路），單向鏈路的頻寬為25 GB/s，總頻寬為6×25×2=300 GB/s

• 計算：

  • 處理器與記憶體配比為1:4

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD雲端硬碟、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習，例如映像分類、無人駕駛、語音辨識等人工智慧演算法的訓練以及推理應用

  • 科學計算，例如計算流體動力學、計算金融學、分子動力學、環境分析等

ebmgn6v包括的執行個體規格及指標資料如下表所示。

ebmgn6i的特點如下：

• 基於神龍架構，實現軟體定義程式硬體計算，靈活彈性與強悍效能兼備

• GPU加速器：T4

  • 創新的Turing架構

  • 單GPU顯存16 GB（GPU顯存頻寬320 GB/s）

  • 單GPU 2560個CUDA Cores

  • 單GPU多達320個Turing Tensor Cores

  • 可變精度Tensor Cores支援65 TFlops FP16、130 INT8 TOPS、260 INT4 TOPS

• 計算：

  • 處理器與記憶體配比為1:4

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® Platinum 8163（Skylake）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援ESSD、ESSD AutoPL雲端硬碟、SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • AI（DL/ML）推理，適合電腦視覺、語音辨識、語音合成、NLP、機器翻譯、推薦系統

  • 雲遊戲雲端即時渲染

  • AR/VR的雲端即時渲染

  • 重載圖形計算或圖形工作站

  • GPU加速資料庫

  • 高效能運算

ebmgn6i包括的執行個體規格及指標資料如下表所示。

gn5i的特點如下：

• 計算：

  • 採用NVIDIA P4 GPU卡

  • 處理器與記憶體配比為1:4

  • 處理器：2.5 GHz主頻的Intel ^® Xeon ^® E5-2682 v4（Broadwell）

• 儲存：

  • I/O最佳化執行個體

  • 僅支援SSD雲端硬碟和高效雲端硬碟

• 網路：

  • 支援IPv6

  • 執行個體網路效能與計算規格對應（規格越高網路效能越強）

• 適用情境：

  • 深度學習推理

  • 多媒體編解碼等伺服器端GPU計算工作負載

gn5i包括的執行個體規格及指標資料如下：