Platform For AI:モデルをオンラインサービスとしてデプロイ

PAI-EAS

Elastic Algorithm Service (EAS) は、オンラインモデルサービスのための PAI のプラットフォームです。ワンクリックでモデルをオンライン推論サービスや AI を活用した Web アプリケーションとしてデプロイできます。EAS は、弾性スケーリング、リソースグループ管理、バージョン管理、リソース監視などの機能を提供します。これらの機能により、安定した高同時実行性のあるオンラインモデルサービスをコスト効率よく実行できます。詳細については、「EAS モデルサービスの概要」をご参照ください。

課金の説明

このトピックの例では、パブリックリソースを使用して EAS サービスを作成します。課金方法は従量課金です。サービスが不要になった場合は、さらなる課金を避けるために、速やかにサービスを停止または削除してください。

EAS を使用してモデルをデプロイする

DSW インスタンスでモデルを開発し、EAS でデプロイする完全な例については、「EAS を使用してモデルをオンラインサービスとしてデプロイする」をご参照ください。

1. PAI コンソールにログインします。上部のナビゲーションバーで、ターゲットリージョンとワークスペースを選択します。左側のナビゲーションウィンドウで、Elastic Algorithm Service (EAS) > Deploy Service > Custom Deployment をクリックします。

2. 次の主要なパラメーターを設定し、その他のパラメーターはデフォルト値を使用します。すべてのパラメーターの詳細については、「カスタムデプロイ」をご参照ください。

   • Deployment Method を Image-based Deployment に設定します。

   • Image Configuration：イメージはモデルのランタイム環境を提供します。Alibaba Cloud イメージ、カスタムイメージを使用するか、レジストリアドレスを入力できます。

     DSW インスタンスでモデルを開発した場合は、Image Address を選択し、DSW インスタンスで使用されているイメージをコピーします。

     

     または、DSW のイメージ作成機能を使用して、イメージを Container Registry (ACR) にプッシュして EAS で使用することもできます。詳細については、「DSW インスタンスイメージの作成」をご参照ください。

   • Mount storage：アプリケーションコードファイルを OSS にアップロードし、マウントパスを設定します。

     

     このトピックでは、テスト用に次の簡単な例を使用します。コードファイルは、前の図に示す OSS パスにアップロードされています。

     アプリケーションコードの例: web.py

     from bottle import Bottle, run
     
     # インスタンスを作成
     app = Bottle()
     
     # "Hello, World!" を返すルートを定義
     @app.route('/hello', method=['GET', 'POST'])
     def hello():
         # 実際のアプリケーションでは、この部分をリクエストパラメーターの解析とモデルの呼び出しに置き換えます。
         
         return 'Hello, World!'
     
     # サーバーを実行
     if __name__ == '__main__':
         run(app, host='0.0.0.0', port=9000)

   • Command: サンプルコードの起動コマンドを入力します。

     

   • Port Number：web.py で使用されるポート 9000 を入力します。

   • Third-party Library Settings：このセクションでは、イメージに不足しているサードパーティライブラリを追加します。例：

     

   • Resource Type を Public Resources に設定し、Resource Type を ecs.gn7i-c16g1.4xlarge に設定します。

   Deploy をクリックします。サービスステータスが Running に変わると、デプロイは成功です。

サービス呼び出しのテスト

モデルが正常にデプロイされた後、EAS のオンラインデバッグ機能を使用してサービスエンドポイントをテストできます。次の手順を実行します：

1. EAS サービスページで、サービス名をクリックしてサービス詳細ページを開きます。次に、Online Debugging タブをクリックします。

2. 前の例の web.py アプリケーションを使用して、リクエストパスを入力し、Send Request をクリックします。"Hello, World!" という応答は、リクエストが成功したことを示します。

3. インターネットまたは VPC からサービスを呼び出すには、「サービスの呼び出し」をご参照ください。