すべてのプロダクト
Search
ドキュメントセンター

Platform For AI:公式PAIイメージ

最終更新日:Jul 22, 2024

Platform for AI (PAI) は、複数の機械学習フレームワークおよびCompute Unified Device Architecture (CUDA) バージョン用に事前に構築されたイメージを提供します。 画像を使用して、PAIのディープラーニングコンテナ (DLC)Elastic Algorithm Service (EAS) 、およびData Science Workshop (DSW) モジュールでAI開発環境を簡単に作成できます。 このトピックでは、主流フレームワークの公式PAIイメージと一般的なシナリオについて説明します。

名前付けルール

公式のPAIイメージの名前は、イメージに関する重要な情報をカプセル化するために固定されたフォーマットに従います。 次の表に、公式PAIイメージの命名規則を示します。 カスタムイメージにも同じ命名規則を使用することを推奨します。

サンプル名

名前の内訳

モジュール識別子

tensorflow:2.11-gpu-py39-cu112-ubuntu20.04

  • tensorflow:2.11: トレーニングフレームワークはTensorFlow 2.11です。

  • gpu: 適用可能なインスタンスタイプはGPUです。

  • py39: プログラミング言語はPython 3.9です。

  • cu112: サポートされているCUDAバージョンは112です。

  • ubuntu20.04: サポートされているオペレーティングシステムはUbuntu 20.04です。

公式PAIイメージの名前に次の識別子を使用して、イメージの該当するモジュールを示すことができます。

  • -トレーニング: PAIのDLCモジュールに適用されます。

  • -推論: PAIのEASモジュールに適用されます。

  • -開発: PAIのDSWモジュールに適用。

deeprec-develop:2302-tensorflow1.15-cpu-py36-ubuntu18.04

  • deeprec-develop:2302-tensorflow1.15: トレーニングフレームワークはTensorFlow 1.15とDeepRec 2302です。

  • cpu: 適用可能なインスタンスタイプはCPUです。

  • py36: プログラミング言語はPython 3.6です。

  • ubuntu18.04: サポートされているオペレーティングシステムはUbuntu 18.04です。

Images for mainstream framework

PAIは、複数の機械学習フレームワークに事前に作成されたイメージを提供します。 このセクションでは、メインストリームフレームワークの公式PAIイメージについて説明します。 公式PAIイメージの完全なリストは、PAIコンソールのAI Computing Asset Management> イメージページで確認できます。

TensorFlow

フレームワークのバージョン

CUDAバージョン (GPUのみ)

オペレーティングシステム

  • TensorFlow2.6

  • TensorFlow2.3

  • TensorFlow2.21

  • TensorFlow2.11

  • TensorFlow 1.15およびTensorFlow 1.15.5

  • TensorFlow1.12

  • CUDA 114

  • CUDA 113

  • CUDA 112

  • CUDA 101

  • CUDA 100

  • Ubuntu 20.04

  • Ubuntu 18.04

TensorFlowサービング

フレームワークのバージョン

CUDAバージョン (GPUのみ)

オペレーティングシステム

  • TensorFlowServing2.11.1

  • TensorFlowServing1.15.0

  • CUDA 112

  • CUDA 100

  • Ubuntu 20.04

  • Ubuntu 18.04

  • Ubuntu 16.04

Pytorch

フレームワークのバージョン

CUDAバージョン (GPUのみ)

オペレーティングシステム

  • Pytorch2.1

  • Pytorch2.0

  • Pytorch1.8

  • Pytorch1.7

  • Pytorch1.12

  • Pytorch1.11

  • Pytorch1.10

  • CUDA 121

  • CUDA 117

  • CUDA 114

  • CUDA 113

  • CUDA 101

  • Ubuntu 22.04

  • Ubuntu 20.04

  • Ubuntu 18.04

DeepRec

フレームワークのバージョン

CUDAバージョン (GPUのみ)

オペレーティングシステム

  • DeepRec2302

  • DeepRec2212

CUDA 114

Ubuntu 18.04

XGBoost

フレームワークのバージョン

CUDAバージョン (GPUのみ)

オペレーティングシステム

XGBoost1.6.0

N/A (CPUのみをサポート)

Ubuntu 18.04

Triton推論サーバー

フレームワークのバージョン

CUDAバージョン (GPUのみ)

オペレーティングシステム

  • TritonServer23.02

  • TritonServer21.09

  • CUDA 120

  • CUDA 114

Ubuntu 20.04

イメージの一般的なシナリオ

Lingjunインテリジェントコンピューティングサービス (サーバーレス版)

イメージ名

フレームワーク

インスタンスタイプ

CUDAバージョン

オペレーティングシステム

サポート対象リージョン

プログラミング言语とバージョン

deepspeed-training:23.06-gpu-py310-cu121-ubuntu22.04

  • PyTorch 2.1

  • メガトロン-LM 23.06

  • DeepSpeed 0.9.5

  • トランスフォーマー4.29.2

  • ニモ1.19.0

GPU

121

ubuntu22.04

中国 (ウランチャブ)

Python3.10

メガトロン-トレーニング: 23.06-gpu-py310-cu121-ubuntu22.04

  • PyTorch 2.1

  • メガトロン-LM 23.06

  • DeepSpeed 0.9.5

  • トランスフォーマー4.29.2

  • ニモ1.19.0

GPU

121

ubuntu22.04

中国 (ウランチャブ)

Python3.10

nemo-training:23.06-gpu-py310-cu121-ubuntu22.04

  • PyTorch 2.1

  • メガトロン-LM 23.06

  • DeepSpeed 0.9.5

  • トランスフォーマー4.29.2

  • ニモ1.19.0

GPU

121

ubuntu22.04

中国 (ウランチャブ)

Python3.10

人工知能生成コンテンツ (AIGC)

イメージ名

フレームワーク

インスタンスタイプ

CUDAバージョン

オペレーティングシステム

サポート対象リージョン

プログラミング言语とバージョン

stable-diffusion-webui:3.0

StableDiffusionWebUI3.0

GPU

117

ubuntu22.04

  • 中国 (杭州)

  • 中国 (上海)

  • 中国 (北京)

  • 中国 (張家口)

  • 中国 (ウランチャブ)

  • 中国 (深セン)

  • 中国 (河源)

  • 中国 (成都)

Python3.10

stable-diffusion-webui:2.2

StableDiffusionWebUI2.2

GPU

117

ubuntu22.04

Python3.10

stable-diffusion-webui:1.1

StableDiffusionWebUI1.1

GPU

117

ubuntu22.04

Python3.10

stable-diffusion-webui-env:pytorch1.13-gpu-py310-cu117-ubuntu22.04

SD-WebUI-ENV

GPU

117

ubuntu22.04

Python3.10

EASの配置

次の表に、EASで使用できる公式のPAIイメージを示します。 すべての画像のリストを表示するには、PAIコンソールのAIコンピューティングアセット管理> 画像ページに移動します。 次の表のイメージアドレスでは、例として中国 (杭州) リージョンを使用しています。

イメージ名

フレームワーク

画像の説明

画像アドレス

chat-llm-webui:3.0ブレード

  • ブレード0.4.3.de v118 + gea4a4a1

  • PyTorch 2.1.0 + cu118

  • トランスフォーマー4.36.2

Bladeを使用して、ラージランゲージモデル (LLM) に基づく推論サービスを実装します。 サービスには、webアプリケーションまたはAPIエンドポイントを使用してアクセスできます。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:3.0-blade

chatbot-langchain:1.0

ChatbotLangChain 1.0

LangChainを使用して外部ナレッジベースを統合するチャットボットサービスに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chatbot-langchain:1.0

comfyui:0.2-api

ComfyUI 0.2

ComfyUIが含まれており、テキストからイメージへ、およびイメージからイメージへのシナリオで使用される非同期APIサービスに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/comfyui:0.2

comfyui:0.2

ComfyUI 0.2

ComfyUIが含まれており、テキストから画像へ、および画像から画像へのシナリオに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/comfyui:0.2

comfyui:0.2クラスター

ComfyUI 0.2

ComfyUIが含まれており、テキストから画像へ、および画像から画像へのシナリオに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/comfyui:0.2

kohya_ss:2.2

Kohya 2.2

Kohyaを使用して、微調整された安定拡散モデルに基づいてアプリケーションを展開します。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/kohya_ss:2.2

modelscope-inference:1.9.1

ModelScope 1.9.1

Modelscopeモデルのために適した。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/modelscope-inference:1.9.1

stable-diffusion-webui:4.2-cluster-webui

StableDiffusionWebUI 4.2

安定した拡散WebUIが含まれており、テキストから画像へ、および画像から画像へのシナリオに適しています。 このイメージを使用してデプロイされるサービスは、同時ユーザーアクセスとユーザー間のリソース分離をサポートします。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2

stable-diffusion-webui:4.2-api

StableDiffusionWebUI 4.2

Stable Diffusion WebUIが含まれており、テキストからイメージへ、およびイメージからイメージへのシナリオで使用される非同期APIサービスに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2

stable-diffusion-webui:4.2標準

StableDiffusionWebUI 4.2

安定した拡散WebUIが含まれており、テキストから画像へ、および画像から画像へのシナリオに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/stable-diffusion-webui:4.2

tensorflow-serving:2.14.1

TensorflowServing 2.14.1

TensorFlow Servingを含み、TensorFlowモデルに基づく推論サービスに適しています。 このイメージはCPUインスタンスのみをサポートします。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/tensorflow_serving:2.14.1

tensorflow-serving:2.14.1-gpu

TensorflowServing 2.14.1

TensorFlow Servingを含み、TensorFlowモデルに基づく推論サービスに適しています。 このイメージはGPUインスタンスのみをサポートします。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/tensorflow_serving:2.14.1-gpu

chat-llm-webui:3.0

  • PyTorch 2.0.1

  • トランスフォーマー4.33.3

HuggingFaceを使用してLLMに基づく推論サービスを実装します。これらのサービスには、webアプリケーションまたはAPIエンドポイントを使用してアクセスできます。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:3.0

chat-llm-webui:3.0-vllm

  • PyTorch 2.1.2

  • トランスフォーマー4.36.2

  • VLLM 0.2.7

vLLMを使用して、LLMに基づく推論サービスを実装します。これらのサービスには、webアプリケーションまたはAPIエンドポイントを使用してアクセスできます。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/chat-llm-webui:3.0-vllm

huggingface-inference:1.0-transformers4.33

変圧器4.33

HuggingFaceモデルに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/huggingface-inference:transformers-4.33

tritonserver:23.11-py3

TritonServer 23.11

TritonServerを含み、推論サービスに適しています。

eas-registry-vpc.cn-hangzhou.cr.aliyuncs.com/pai-eas/tritonserver:23.11-py3