全部產品
Search
文件中心

ApsaraDB RDS:中文分詞(zhparser)

更新時間:Nov 27, 2024

RDS PostgreSQL支援zhparser外掛程式,用於中文的全文檢索索引。

前提條件

  • 執行個體大版本為RDS PostgreSQL 10或以上版本。

  • 執行個體核心小版本為20230830或以上。

    重要

    20230830核心小版本之前已支援此外掛程式,但為了規範外掛程式管理,提升RDS PostgreSQL在外掛程式側的安全防護,RDS計劃在核心版本迭代中陸續對部分存在安全風險的外掛程式進行最佳化,部分外掛程式在低核心小版本無法建立,更多資訊,請參見【產品/功能變更】RDS PostgreSQL限制建立外掛程式說明

    • 如果您的執行個體核心小版本低於20230830,且已經使用了此外掛程式,則不影響使用。

    • 如果您首次建立或重新建立此外掛程式,請升級核心小版本到最新。

  • 使用該外掛程式前,需要將zhparser加入到shared_preload_libraries參數中。

    您可以使用RDS PostgreSQL參數設定功能,為shared_preload_libraries參數添加zhparser。具體操作,請參見設定執行個體參數

背景資訊

PostgreSQL內建的parser外掛程式適用於分詞比較簡單的語言(如英語),按照標點、空格切分語句即可獲得有含義的詞語,而中文比較複雜,詞語之間沒有空格分隔,長度也不固定,分詞還和語義有關,因此parser不能用來做中文分詞,建議您使用zhparser。

zhparser是PostgreSQL的中文分詞外掛程式,安裝後可以使PostgreSQL支援中文的全文檢索索引(Full Text Search)。

啟用中文分詞

可以使用下面的命令,啟用中文分詞:

CREATE EXTENSION zhparser;
CREATE TEXT SEARCH CONFIGURATION testzhcfg (PARSER = zhparser);
ALTER TEXT SEARCH CONFIGURATION testzhcfg ADD MAPPING FOR n,v,a,i,e,l WITH simple;
--可選的參數設定
ALTER ROLE CURRENT_ROLE SET zhparser.multi_short=on;
--簡單測試
SELECT * FROM ts_parse('zhparser', 'hello world! 2010年保障房建設在全國範圍內獲全面啟動,從中央到地方紛紛加大 了 保 障 房 的 建 設 和 投 入 力 度 。2011年,保障房進入了更大規模的建設階段。房屋城鄉建設部黨組書記、部長薑偉新去年底在全國房屋城鄉建設工作會議上表示,要繼續推進保障性安居工程建設。');
SELECT to_tsvector('testzhcfg','“今年保障房新開工數量雖然有所下調,但實際的年度在建規模以及竣工規模會超以往年份,相對應的對資金的需求也會創歷史紀錄。”陳國強說。在他看來,與2011年相比,2012年的保障房建設在資金配套上的壓力將更為嚴峻。');
SELECT to_tsquery('testzhcfg', '保障房資金壓力');

利用分詞進行全文索引的方法如下:

--為t1表的name欄位建立全文索引,需要將SQL語句中的表名(t1)和欄位(name)替換為實際業務中的表名和欄位值。
CREATE index idx_t1 ON t1 using gin (to_tsvector('testzhcfg',upper(name) ));
--使用全文索引
 SELECT * FROM t1 WHERE to_tsvector('testzhcfg',upper(t1.name)) @@ to_tsquery('testzhcfg','(防火)') ;

自訂中文分詞詞典

自訂中文分詞詞典,樣本如下:

-- 初始的分詞結果
SELECT to_tsquery('testzhcfg', '保障房資金壓力');
-- 往自訂分詞詞典裡面插入新的分詞
INSERT INTO pg_ts_custom_word VALUES ('保障房資');
-- 使新的分詞生效
SELECT zhprs_sync_dict_xdb();
-- 退出此串連
\c
-- 重新查詢,可以得到新的分詞結果
SELECT to_tsquery('testzhcfg', '保障房資金壓力');

使用自訂分詞的注意事項如下:

  • 最多支援一百萬條自訂分詞,超出部分不做處理,必須保證分詞數量在這個範圍之內。自訂分詞與預設的分詞詞典將共同產生作用。

  • 每個詞的最大長度為128位元組,超出部分將會截取。

  • 增刪改分詞之後必須執行SELECT zhprs_sync_dict_xdb();並且重建立立串連才會生效。