PolarDB：千問大模型資料推理和互動

文法說明

調用內建的千問大模型進行推理可分為線上推理和離線推理兩種方式。具體的文法說明如下。更多資訊，請參見模型推理。

--線上推理
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with ()
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with ()

--離線推理
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT columnname FROM tablename) with (mode='async')
/*polar4ai*/SELECT * FROM PREDICT (MODEL modelname, SELECT text) with (mode='async')

參數說明

1. 環境準備

1. 增加AI節點，並設定AI節點的串連資料庫帳號：開啟PolarDB for AI功能

   若您在購買叢集時已添加AI節點，則可以直接為AI節點設定串連資料庫的帳號。

2. 使用叢集地址串連PolarDB叢集：登入PolarDB for AI

2. 資料準備

1. 建立一個名為textinfo的表。

   CREATE TABLE IF NOT EXISTS textinfo (
       id INT NOT NULL,
       content TEXT NOT NULL
   ) ENGINE=InnoDB DEFAULT CHARSET=utf8;

2. 在textinfo表中添加如下資料。

   INSERT INTO textinfo (id,content) VALUES (1,"這個東西只是看著還行，實際體驗上非常的不好，不推薦大家購買。");
   INSERT INTO textinfo (id,content) VALUES (2,"華為最新手機Mate 60 Pro自開賣後銷售火爆，目前已缺貨。知名分析師郭明錤周一發文稱，大幅提升Mate 60 Pro的出貨量預期，華為對於產業和股市的影響力不可忽視，這種影響力正在迴歸中。");
   INSERT INTO textinfo (id,content) VALUES (3,"近年來，中國電影市場逐漸傾向於現實題材。2018年的《我不是藥神》以31億票房成為暑期檔冠軍。隨後，《掃毒2》、《怒火·重案》和《中國醫生》等影片也取得了成功。今年暑期檔，現實題材如《消失的她》、《八角籠中》和《孤注一擲》等電影大受歡迎，反映了觀眾對貼近生活內容的興趣。");
   INSERT INTO textinfo (id,content) VALUES (4,"你是誰");
   INSERT INTO textinfo (id,content) VALUES (5,"This item only looks decent; the actual experience is very poor. I do not recommend purchasing it.");

3. 調用千問大模型

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo WHERE id = 1) WITH (); 

負向

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_summarize, SELECT content FROM textinfo WHERE id = 3) WITH ();

近年來，中國電影市場越來越青睞現實題材。2018年，《我不是藥神》以31億票房成為暑期檔冠軍。之後，《掃毒2》《怒火·重案》和《中國醫生》等片也大獲成功。今年暑期檔，《消失的她》《八角籠中》和《孤注一擲》等現實題材電影備受觀眾喜愛，反映出人們對貼近生活的影片內容有濃厚興趣。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT content FROM textinfo WHERE id = 4) WITH ();

我是來自阿里雲的大規模語言模型，我叫千問。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi, SELECT '你是誰') WITH ();

我是來自阿里雲的大規模語言模型，我叫千問。

/*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (mode='async');

+--------------------------------------+
| task_id                              |
+--------------------------------------+
| 6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx |
+--------------------------------------+

/*polar4ai*/SHOW TASK `6227479c-1e82-11f0-b7cb-xxxxxxxxxxxx`;

+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| taskStatus | filePath                                                                                                                                    | results | startTime      | endTime        | errMsg | successBatch | allBatch |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+
| finish     | ["http://db4ai-xxx.aliyuncs.com/final_results/_polar4ai_tongyi_sa/xxx.csv?security-token=xxx&OSSAccessKeyId=xxx&Expires=xxx&Signature=xxx"] |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
+------------+---------------------------------------------------------------------------------------------------------------------------------------------+---------+----------------+----------------+--------+--------------+----------+

4. （可選）將推理結果寫回資料庫

為了避免AI模型對資料庫的頻繁寫入，PolarDB將含有AI模型推理列的資料表（PolarDB for AI Augmented Table，AAT）作為外部表格儲存在Object Storage Service上。因此您需先開啟冷資料歸檔功能。

1. 開啟冷資料歸檔。

   請前往PolarDB控制台的配置與管理 > 資料與生命週期 > 冷資料歸檔（冷資料）頁面開啟冷資料歸檔功能。

2. 建立資料庫並授權帳號許可權。

   您需建立一個新的資料庫polar4ai，系統自動產生的AAT將儲存於資料庫polar4ai中。在建立資料庫時，請選擇字元集utf8mb4，並選擇AI節點的串連資料庫帳號進行授權，授予該帳號讀寫權限。

3. 使用情感分析模型進行離線推理，自動產生AAT。

   /*polar4ai*/SELECT * FROM PREDICT (MODEL _polar4ai_tongyi_sa, SELECT content FROM textinfo) WITH (x_cols='content', mode='async', into_type='db') INTO tongyi_sa_predict_in_db;

   執行結果如下：

   +--------------------------------------+
   | task_id                              |
   +--------------------------------------+
   | e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx |
   +--------------------------------------+

   以上查詢結果返回該任務的task_id，您可以通過該任務ID查詢任務狀態。

   /*polar4ai*/SHOW TASK `e61aefa8-42af-11f0-92d0-xxxxxxxxxxxx`;

   執行結果如下，當返回的taskStatus為finish時，表示任務已完成。

   +------------+------------+---------+----------------+----------------+--------+--------------+----------+
   | taskStatus | filePath   | results | startTime      | endTime        | errMsg | successBatch | allBatch |
   +------------+------------+---------+----------------+----------------+--------+--------------+----------+
   | finish     | []         |         | 2025-04-21 xxx | 2025-04-21 xxx |        | 5            | 5        |
   +------------+------------+---------+----------------+----------------+--------+--------------+----------+

4. 查看資料庫polar4ai下自動產生的AAT表資訊。

   SHOW CREATE TABLE polar4ai.tongyi_sa_predict_in_db;

   執行結果如下：

   +--------------------------+-------------------------------------------------------------------------------------------------------------+
   | Table                    | Create Table                                                                                                |
   +--------------------------+-------------------------------------------------------------------------------------------------------------+
   | tongyi_sa_predict_in_db  | CREATE TABLE `tongyi_sa_predict_in_db` (
     `content` text,
     `content_result` text
   ) ENGINE=CSV DEFAULT CHARSET=utf8mb4 COLLATE=utf8mb4_0900_ai_ci /*!99990 800010128 NULL_MARKER='NULL' */ CONNECTION='default_oss_server' |
   +--------------------------+-------------------------------------------------------------------------------------------------------------+

5. 查看AAT表中的資料。

   SELECT * FROM polar4ai.tongyi_sa_predict_in_db;

   執行結果如下：

   +-------------------------------------------------------------+----------------+
   | content                                                     | content_result |
   +-------------------------------------------------------------+----------------+
   | 這個東西只是看著還行，實際體驗上非常的不好，不推薦大家購買。          | 負向            |
   | 華為最新手機Mate 60 Pro自開賣後銷售火爆，目前已缺貨。知名分析師郭... | 正向            |
   | 近年來，中國電影市場逐漸傾向於現實題材。2018年的《我不是藥神》以31... | 中立            |
   | 你是誰                                                       | 中立            |
   | This item only looks decent; the actual experience is ve... | 負向            |
   +-------------------------------------------------------------+-----------------+