Platform For AI:インターネットまたはイントラネット経由でゲートウェイを介してサービスを呼び出す（デフォルト）

ステップ 1：エンドポイントとトークンの取得

サービスをデプロイすると、EAS が自動的に必要なエンドポイントおよび認証トークンを生成します。

ステップ 2：リクエストの構築と送信

インターネットエンドポイントまたは VPC エンドポイントのいずれを利用する場合でも、リクエスト構造はほぼ同一です。異なるのは URL のみです。標準的なリクエストには、以下の 4 つのコア要素があります：

• HTTP メソッド：最も一般的なのは POST および GET です。

• URL：ベースエンドポイント <EAS_ENDPOINT> に特定の API パスを結合します。

• リクエストヘッダー：最低限、Authorization: <Token> を含める必要があります。

• リクエストボディ：そのフォーマット（例：JSON）は、デプロイ済みのモデルの API 仕様によって異なります。

  重要

  ゲートウェイを介して呼び出す場合、リクエストボディは 1 MB を超えてはなりません。

サンプル 1：Model Gallery からモデルを呼び出す

Model Gallery のモデルの Overview ページに移動します。このページには、curl または Python コードによる正確な API 呼び出し例（完全な URL パスおよびリクエストボディのフォーマットを含む）が通常表示されます。

サンプル 2：大規模言語モデル（LLM）の呼び出し

大規模言語モデル（LLM）サービスでは、OpenAI 互換 API が提供されることが多く、チャット完了エンドポイント（/v1/chat/completions）や完了エンドポイント（/v1/completions）などが該当します。

たとえば、vLLM を使用してデプロイされた DeepSeek-R1-Distill-Qwen-7B モデルのチャット完了エンドポイントを呼び出す場合、以下の要素を使用します（詳細については、「LLM の呼び出し」をご参照ください）：

• HTTP メソッド： POST

• URL： <EAS_ENDPOINT>/v1/chat/completions

• リクエストヘッダー： Authorization: <Token> および Content-Type: application/json

• リクエストボディ：

  {
      "model": "DeepSeek-R1-Distill-Qwen-7B",
      "messages": [
      {
          "role": "system",
          "content": "You are a helpful assistant."
      },
      {
          "role": "user",
          "content": "hello!"
      }
      ]
  }

例： <EAS_ENDPOINT> が http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/test の場合です。

curl http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/test/v1/chat/completions \
-H "Content-Type: application/json" \
-H "Authorization: *********5ZTM1ZDczg5OT**********" \
-X POST \
-d '{
    "model": "DeepSeek-R1-Distill-Qwen-7B",
    "messages": [
    {
        "role": "system",
        "content": "You are a helpful assistant."
    },
    {
        "role": "user",
        "content": "hello!"
    }
    ]
}' 

import requests

# 実際のエンドポイントに置き換えてください
url = 'http://16********.cn-hangzhou.pai-eas.aliyuncs.com/api/predict/test/v1/chat/completions'
# 実際のトークンに置き換えて Authorization を設定してください
headers = {
    "Content-Type": "application/json",
    "Authorization": "*********5ZTM1ZDczg5OT**********",
}
# モデルの要求するデータ形式に基づいてリクエストボディを構築します。
data = {
    "model": "DeepSeek-R1-Distill-Qwen-7B",
    "messages": [
        {
            "role": "system",
            "content": "You are a helpful assistant."
        },
        {
            "role": "user",
            "content": "hello!"
        }
    ]
}
# リクエストを送信します
resp = requests.post(url, json=data, headers=headers)
print(resp)
print(resp.content)

その他のユースケース

• ComfyUI API の呼び出し

• SDWebUI API の呼び出し

• TensorFlow Serving サービスの呼び出し

• Triton サービスの呼び出し

• TensorFlow、Caffe、PMML などの汎用プロセッサでデプロイされたサービス：「汎用プロセッサを使用したサービスリクエストの構築」をご参照ください。

• ご自身で学習したモデル：元のモデルと同様の方法で呼び出せます。

• その他のカスタムサービス：リクエストフォーマットは、カスタムイメージまたはコード内で定義したデータ入力フォーマットに依存します。