Compute NestでLLMを使用してPAI-EASとAnalyticDB for PostgreSQLでRAGサービスを構築する

本記事では、Compute Nestを使用し、PAI-EAS上のLLM、ベクトルストアとしてのAnalyticDB for PostgreSQL、ウェブUIとしてのGradio、オーケストレーションとしてのLangchainを使用してRAGサービスを作成する方法について説明します。

はじめに

このガイドでは、Alibaba CloudのAIプラットフォームであるPAI-EAS上の大規模言語モデル（LLM）を使用して、Retrieval-Augmented Generation（RAG）サービスを作成するプロセスを説明します。ベクトルストアとしてのAnalyticDB for PostgreSQL、Web UIとしてのGradio、オーケストレーションとしてのLangchainを使用します。

前提条件

Alibaba Cloudアカウント
クラウドサービスとAIモデルについての知識

ステップ 1: Alibaba Cloudアカウントの設定

Alibaba Cloudアカウントを持っていることを確認してください。まだアカウントを作成していない場合は、こちらからサインアップしてください。

ステップ 2: Compute Nestへのアクセス

アリババクラウドのアカウントでログインし、ナビゲーションメニューからCompute Nestを見つけます。サービスGenAI-LLM-RAGにアクセスして、正式使用をクリックしてください。

ステップ 3：インスタンスとそのパラメータの設定

必要なインスタンスのパラメータを設定します：

サービスインスタンス名を入力する
Elastic Computing Services (ECS)のパラメータを選択する。ecs.c6.2xlargeの選択を推奨します。この場合、アップロードされたドキュメントの処理が早くなります
インスタンスのパスワードを挿入する

ステップ 4: LLM用のPAI-EASサービスを作成

PAI-EAS上で事前トレーニング済みのLLMをデプロイします：

メニューから適切なLLMを選択する
インスタンスタイプを設定する
デプロイを実行し、APIエンドポイントを記録する

ステップ 5: AnalyticDB for PostgreSQLの設定

AnalyticDB for PostgreSQLインスタンスのスペックを選択してください。
セグメントストレージのサイズ：ドキュメントのサイズは、あなたの知識に応じて決定できます。
デフォルトのデータベースユーザー名はkbsuserです。通常、データベース名はユーザー名と同じになります。他のユーザー名を自由に設定しても構いません。
強力なパスワードを作成する必要があります。例：パスワードに「@」記号は使用しないでください。

ステップ 6: WebUIの認証とネットワーク構成

1. デフォルトのユーザー名はadminです。別のユーザー名を選択することもできます。

2. 強力なパスワードを作成する必要があります。

3. VPCは既存のVPCから選択できます。新しいVPCを作成する場合は、スライダーをアクティベートして関連情報を入力してください。

4. 「Next: Confirm Order」を押してください。

ステップ 7: GradioをWeb UIに統合する

Gradioを使用してWeb UIを作成してください：

Gradioを設定します。
バックエンドサービス（PAI-EAS、ベクトルストア）に接続します。

ステップ 8: RAGサービスのデプロイ

関連情報をすべて確認し、Create Nowを押して利用規約に同意すると、サービスがデプロイされます。すべてのステップが完了するまでしばらくお待ちください。

RAGサービスの使用方法

一般的な質問応答

ユーザーはGradioのWeb UIを通じて質問をすることができ、LLMが処理して回答を提供します。

検索拡張のためのドキュメントのアップロード

ユーザーはベクトルストアに変換されたドキュメントをアップロードし、AnalyticDB for PostgreSQLに保存することができます。

ECSを通じたサービスの変更

承認されたユーザーはECSにアクセスして、サービスを変更または更新することができます。

結論

このガイドに従うことで、PAI-EAS、AnalyticDB、Gradio、Langchainの強力な機能を活用し、Compute Nest上で機能的なRAGサービスを構築することができるはずです。

本文はAIによって翻訳されました。ここで表明されている意見は参考までにお読みいただくものであり、必ずしもAlibaba Cloudの公式の意見を代表するものではありません。原文はこちらです。

Community

Compute NestでLLMを使用してPAI-EASとAnalyticDB for PostgreSQLでRAGサービスを構築する

はじめに

前提条件

ステップ 1: Alibaba Cloudアカウントの設定

ステップ 2: Compute Nestへのアクセス

ステップ 3：インスタンスとそのパラメータの設定

ステップ 4: LLM用のPAI-EASサービスを作成

ステップ 5: AnalyticDB for PostgreSQLの設定

ステップ 6: WebUIの認証とネットワーク構成

ステップ 7: GradioをWeb UIに統合する

ステップ 8: RAGサービスのデプロイ

RAGサービスの使用方法

一般的な質問応答

検索拡張のためのドキュメントのアップロード

ECSを通じたサービスの変更

結論

Read previous post:

Read next post:

Regional Content Hub

You may also like

Comments

Regional Content Hub

Related Products

Container Service for Kubernetes

Container Compute Service (ACS)

Platform For AI

AnalyticDB for MySQL