このトピックでは、PolarDB for AI のサブ機能である行指向 AI の概念、利用シーン、制限事項、注意事項について説明します。
背景情報
PolarDB for AI の重要なサブ機能として、行指向 AI は、ローダブル関数をフックとして使用してモデル推論を実行し、大規模言語モデル (LLM) を呼び出します。行指向 AI 機能を使用すると、作成した AI モデルを PolarDB に登録し、フック関数を呼び出してモデルを推論に使用できます。この機能は、ネイティブの SQL 機能を提供し、組み込みモデルに対して大きな利点をもたらします。
組み込みのデータベース関数と同様の方法で AI モデルを使用できます。行指向 AI 機能は、AI 機能を PolarDB に統合するように設計されており、SQL 文を活用して AI モデルを効率的に管理および使用できます。これにより、PolarDB 内のデータを追加のデータ移行なしで AI モデルが使用できるようになり、データ整合性が確保され、推論パフォーマンスが向上します。
行指向 AI 機能では、インポートモデルとプラットフォーム組み込みモデルを使用できます。これらは登録方法は異なりますが、どちらも後続のクエリにはネイティブの SQL 文を使用します。
インポートモデル
作成済みのモデルまたはリモート LLM を次の種類からインポートできます。
カスタムモデル：SQL 文を実行してカスタムモデルを PolarDB に登録し、推論用の関数を作成できます。行指向 AI 機能は、AI ノードに推論サービスをデプロイし、自動生成されたユーザー定義関数 (
.soファイル内) を使用して AI ノード上の推論サービスを呼び出します。データベースからデータをエクスポートする必要はありません。サードパーティ製の事前作成済みモデル：カスタムモデルと同様に、サードパーティ製の事前作成済みモデルを使用できます。モデルを PolarDB に登録してから、推論用の関数を作成する必要があります。
リモート LLM：推論サービスの URL や API キーなどのリモート LLM のメタデータを提供する必要があります。行指向 AI 機能は、対応するユーザー定義関数 (
.soファイル内) を自動的に生成します。その後、この機能はこれらの関数をフックとして使用して、モデルの推論サービスを呼び出します。
プラットフォーム組み込みモデル
プラットフォーム組み込みモデルは、PolarDB for AI が提供する Alibaba が自社開発したモデルです。モデルには、Tongyi Qianwen、診断コンサルティング用のロボット、チャットボット、Cainiao 決定木モデル、異常検知モデルなどがあります。モデルを推論に使用するには、モデルをデプロイしてデータベースに関数を作成するだけです。次の表に、利用可能な組み込み関数と、それに対応する
.soファイルを示します。関数
モデル名
ファイル名
戻り値のデータ型
説明
polarchat
builtin_polarchat
#ailib#_builtin_polarchat.so
STRING
LLM に基づく対話型 Q&A のための関数。
polarzixun
builtin_polarzixun
#ailib#_builtin_polarzixun.so
STRING
検索拡張型 LLM に基づくコンサルティングのための関数。
qwen
builtin_qwen
#ailib#_builtin_qwen.so
STRING
Tongyi Qianwen モデルに基づく関数。
利用シーン
テーブル内の各データ行が 1 つの推論結果に対応します。
AI モデルはデータ更新に依存しており、推論のためにデータベースからデータを頻繁にエクスポートすることはできません。
モデル推論には、Group By、サブクエリ、Join などを含む複雑なクエリが必要です。
データベース内のテーブルデータが LLM によって推論に使用されます。
TensorFlow プラットフォーム上のモデルのみをインポートできます。これらのモデルは、1 次元配列または文を入力として使用し、INTEGER、REAL、または STRING 型の値を返します。
制限事項
行指向 AI 機能は、Enterprise Edition の PolarDB for MySQL 8.0.2 クラスターでのみサポートされています。
課金
課金対象は AI ノードのみです。料金の詳細については、「コンピュートノードの従量課金価格、および「コンピュートノードのサブスクリプション価格」をご参照ください。
注意事項
詳細については、「インポートモデルの使用方法」および「プラットフォーム組み込みモデルの使用方法」をご参照ください。