Platform For AI:カスタムイメージを使用したモデルサービスのデプロイ

ステップ 1：事前準備

開始する前に、以下の環境とリソースが準備できていることを確認してください。

• Virtual Private Cloud (VPC)：EAS サービス、ECS インスタンス、および ACR イメージリポジトリは、イメージのプッシュとプルの安定性とセキュリティを確保するために、VPC を介して通信する必要があります。

• Container Registry (ACR)：ACR はカスタムイメージの保存と管理に使用されます。ACR Enterprise Edition インスタンスを準備し、必要な名前空間とイメージリポジトリを作成する方法の詳細については、「Enterprise Edition インスタンスを使用したイメージのプッシュとプル」をご参照ください。

• 開発環境：以下の構成で ECS インスタンスを作成し、イメージをビルドできます。

  • インスタンスタイプ：ecs.u1-c1m2.large

  • イメージ：Alibaba Cloud Linux 3.2104 LTS 64 ビット

  • 拡張機能：Docker Community Edition

  • ネットワーク：選択した VPC を ACR Enterprise インスタンスのアクセス制御設定に追加する必要があります。追加しない場合、ACR イメージリポジトリにイメージをプッシュできません。詳細については、「VPC 経由での ACR インスタンスへのアクセス制御の設定」をご参照ください。

  説明

  ローカルまたは他の開発環境も使用できます。

  • ローカル開発環境：Docker をインストールして実行し、ローカルでイメージをビルドできます。

  • DSW 開発環境の使用：DSW インスタンスの [操作] 列で、Create Image をクリックします。この操作により Docker イメージがビルドされ、Alibaba Cloud Container Registry (ACR) に保存されます。デプロイ時に Custom Image を選択し、ドロップダウンリストからイメージを選択します。詳細については、「DSW インスタンスイメージの作成」をご参照ください。

ステップ 2：アプリケーションファイルの準備

my-app などのプロジェクトフォルダを作成し、以下の 3 つのファイルをフォルダに追加します。

1. requirements.txt (アプリケーションの依存関係)

   flask
   gunicorn

2. app.py (Web アプリケーションコード)

   from flask import Flask
   
   app = Flask(__name__)
   
   @app.route('/hello/model')
   def hello_world():
       # ここでモデルの推論や他のビジネスロジックを統合できます。
       return 'Hello World from Gunicorn!'
   
   # 注意：app.run() は不要です。アプリケーションは Gunicorn によって起動されます。

3. Dockerfile (イメージビルド命令)

   # 1. ベースとして軽量の公式 Python イメージを使用します。
   FROM python:3.9-slim
   
   # 2. 作業ディレクトリを設定します。
   WORKDIR /app
   
   # 3. 依存関係ファイルをコピーしてインストールします。これにより、Docker のキャッシュ機構を利用して後続のビルドを高速化します。
   COPY requirements.txt .
   RUN pip install --no-cache-dir -r requirements.txt -i https://mirrors.aliyun.com/pypi/simple/
   
   # 4. アプリケーションコードをコピーします。
   COPY app.py .
   
   # 5. サービスポートを宣言します。
   EXPOSE 8000
   
   # 6. デフォルトのコンテナー起動コマンドを定義します。これは EAS コンソールの「実行コマンド」で上書きできます。
   CMD ["gunicorn", "-w", "4", "-b", "0.0.0.0:8000", "app:app"]

ステップ 3：イメージのビルドとプッシュ

1. ターミナルを開き、プロジェクトフォルダ (my-app) に移動します。

2. ACR インスタンスにログインします。コマンド内のプレースホルダーを実際の情報に置き換えてください。

   # 例：docker login --username=your_user my-registry.cn-hangzhou.aliyuncs.com
   docker login --username=<username> <ACR_repository_domain_name>

3. Docker イメージをビルドし、完全なタグを付けます。

   # 例：docker build -t my-registry.cn-hangzhou.aliyuncs.com/my-namespace/flask-app:v1 .
   docker build -t <ACR_repository_domain_name>/<namespace>/<image_repository_name>:<version_number> .

4. ビルドしたイメージを ACR にプッシュします。

   # 例：docker push registry.cn-hangzhou.aliyuncs.com/my-namespace/flask-app:v1
   docker push <ACR_repository_domain_name>/<namespace>/<image_repository_name>:<version_number>

ステップ 4：サービスのデプロイ

1. PAI コンソールにログインします。ページ上部でリージョンを選択します。次に、目的のワークスペースを選択し、[Elastic Algorithm Service (EAS)] をクリックします。

2. Deploy Service をクリックし、Custom Model Deployment > Custom Deployment を選択します。

3. 以下の主要なパラメーターを設定します。

   • Deployment Method：Image-based Deployment を選択します。

   • Image Configuration: Image Address を選択し、前のステップでプッシュした完全なイメージアドレスを入力します。

     この例では、同一の Alibaba Cloud アカウント配下の ACR リポジトリを使用しているため、EAS はパスワードなしでイメージをプルできます。ユーザー名とパスワードを提供する必要はありません。

   • Command to Run：gunicorn -w 4 -b 0.0.0.0:8000 app:app

     注意：EAS コンソールで指定された [実行コマンド] は、Dockerfile の CMD 命令を上書き

   • Port Number 8000。

   • Deployment：この例では、Public Resources から ecs.c6.large などの CPU リソースを選択します。

   • VPC：VPC、vSwitch、およびセキュリティグループを選択します。

     ここで選択した VPC が ACR インスタンスのアクセス制御リストに追加されていることを確認してください。追加されていない場合、ネットワークの問題でイメージのプルが失敗します。一般的なエラーは ImagePullBackOff です。

4. [デプロイ] をクリックします。サービスステータスが Running に変わると、サービスはデプロイされています。

Q：なぜ `ImagePullBackOff` エラーでイメージのプルが失敗するのですか？

• 原因 1：ネットワーク接続の失敗。これは最も一般的な原因です。EAS サービスに設定された VPC が ACR インスタンスのアクセス制御ホワイトリストに追加されているかどうかを確認してください。リージョンをまたいで作業する場合は、CEN を介して VPC を接続する必要があります。詳細については、「別のリージョンまたは IDC から ACR Enterprise Edition インスタンスにアクセスする」をご参照ください。パブリックネットワーク経由でイメージをプルする場合は、パブリックネットワークアクセスが可能な VPC が EAS に設定されていること、および ACR のパブリックアクセスを有効にしていることを確認してください。

• 原因 2：認証の失敗。認証が必要なプライベートイメージリポジトリ (ご自身のアカウント配下の ACR リポジトリではない) を使用している場合は、[イメージ設定] セクションで入力した認証情報が正しいかどうかを確認してください。

• 原因 3：イメージが見つからない。イメージアドレス、名前空間、およびバージョン番号 (タグ) が正しいかどうかを確認してください。また、イメージがリポジトリに正常にプッシュされていることを確認してください。

• 原因 4：システムディスクの容量不足。この問題を解決するには、システムディスクを拡張できます。