Hologres V3.0版本開始支援查詢隊列(Query Queue)功能,該功能可實現請求的有序處理、負載平衡和資源管理,特別是在高並發情境下,能夠確保系統的穩定性和響應效率。
功能介紹
預設情況下,請求提交到執行個體後,沒有任何並發控制,引擎的Coordinator將為請求分配資源執行。使用查詢隊列功能後,Hologres將根據查詢隊列中分類器已配置的匹配規則對SQL請求進行匹配,並將請求分配至不同的查詢隊列。每個查詢隊列都支援配置最大並發數,當請求數量達到最大並發數時,後續新請求會在相應的隊列中等待,直至有可用的計算資源,方可開始執行。
注意事項
查詢隊列和最佳化器等配置適用於執行個體層級(通用型執行個體)或計算群組層級(計算群組型執行個體)。如果一個執行個體下存在多個資料庫,則查詢隊列和最佳化器將對所有資料庫生效。
僅Hologres V3.0及以上版本的通用型和計算群組型執行個體支援查詢隊列功能。
說明若您的執行個體為V2.2或以下版本,請執行個體升級或加入即時數倉Hologres交流群申請升級執行個體。加入線上支援DingTalk群請參見如何擷取更多的線上支援?。
Hologres從V3.0.10版本起,支援設定某個查詢隊列的SQL全部使用Serverless Computing資源執行。查詢隊列的並發配置和排隊機制僅對本地資源生效,使用Serverless Computing資源執行的查詢不受查詢隊列並發配置和排隊機制等因素影響。
每個通用型執行個體以及計算群組型執行個體中的每個計算群組,預設有一個
default_queue
查詢隊列,且其最大並發限制和最大排隊限制均不設限制。default_queue
查詢隊列不支援建立分類器,只支援設定查詢隊列屬性。default_queue
可以管理所有不能被其他查詢隊列匹配的請求。
每個通用型執行個體以及計算群組型執行個體中的每個計算群組,支援最多建立10個查詢隊列(包含
default_queue
),每個查詢隊列最多可建立10個分類器。唯讀從執行個體不支援單獨啟用查詢隊列功能,但可適用主執行個體的查詢隊列規則。
一個分類器只能歸屬於一個查詢隊列,而一個查詢隊列可以建立多個分類器。
操作步驟
建立查詢隊列
文法
通用型執行個體
CALL hg_create_query_queue (query_queue_name, max_concurrency, max_queue_size);
計算群組型執行個體
CALL hg_create_query_queue (warehouse_name, query_queue_name, max_concurrency, max_queue_size);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設在當前串連的計算群組中建立查詢隊列。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱,在當前執行個體或計算群組中保持唯一,不可重複。
max_concurrency:可選,最大並發數。預設值:-1,表示沒有任何並發限制,取值範圍:[ -1 , 2147483647 )。
max_queue_size:可選,最大排隊數量,指支援的最大排隊SQL數量。預設值:-1,表示隊列無限大,取值範圍:[ -1 , 2147483647 )。
說明建立查詢隊列時僅支援配置max_concurrency和max_queue_size,其他屬性配置詳情,請參見配置查詢隊列屬性。
樣本
通用型執行個體
-- 建立名為insert_queue的查詢隊列,並配置最大並發度為10。 CALL hg_create_query_queue ('insert_queue',10);
計算群組型執行個體
-- 在init_warehouse計算群組中,建立名為insert_queue的查詢隊列,並配置最大並發度為10。 CALL hg_create_query_queue ('init_warehouse','insert_queue',10);
建立分類器
文法
通用型執行個體
CALL hg_create_classifier (query_queue_name, classifier_name, priority);
計算群組型執行個體
CALL hg_create_classifier (warehouse_name, query_queue_name, classifier_name, priority);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,待建立分類器的查詢隊列名稱。
classifier_name:必填,分類器名稱,在當前執行個體或計算群組中保持唯一,不可重複。
priority:可選,分類器匹配優先順序,數值越大優先順序越高。預設值:50,取值範圍:[ 1 , 100 ]。若您建立時未配置該參數,後續可通過配置分類器屬性方式進行配置。
說明分類器的優先順序越高,則匹配的順序越靠前。
當多個分類器具有相同的優先順序時,將依據查詢隊列和分類器名稱的字典序進行匹配,優先匹配字典序較小的項。例如,queue_a(classifier_1) 的優先順序高於 queue_b(classifier_1)。
樣本
通用型執行個體
-- 在insert_queue的查詢隊列中,建立名為classifier_insert的分類器,匹配優先順序為20 CALL hg_create_classifier ('insert_queue', 'classifier_insert', 20);
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue查詢隊列中,建立名為classifier_insert的分類器,匹配優先順序為20 CALL hg_create_classifier ('init_warehouse','insert_queue', 'classifier_insert', 20);
配置分類器匹配規則
在查詢列隊中,可以通過為分類器配置匹配規則來進行SQL匹配,以確定SQL應進入相應的查詢隊列。
文法
通用型執行個體
CALL hg_set_classifier_rule_condition_value (query_queue_name, classifier_name, condition_name, condition_value);
計算群組型執行個體
CALL hg_set_classifier_rule_condition_value (warehouse_name, query_queue_name, classifier_name, condition_name, condition_value);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
classifier_name:必填,待添加配置規則的分類器名稱。
condition_name和condition_value:必填,當前支援的條件屬性:
說明每次只能配置一個條件屬性,若條件值大小寫敏感,則需要帶上雙引號。
若同一種條件屬性需匹配多個條件值,則需進行多次設定。例如:若分類器對command_tag為SELECT和INSERT的請求均需匹配,則需執行兩條SQL語句進行設定。
分類器可以設定多個條件屬性,條件屬性之間為並的關係,而條件屬性內部則為或的關係。例如:存在一個分類器,該分類器包含user_name和command_tag兩個資料屬性,這兩個屬性之間為並的關係;而在user_name內設定的各個使用者則為或的關係。
user_name:當前帳號的UID。
command_tag:請求類型。取值:INSERT、SELECT、UPDATE、DELETE。
為了提高COPY操作的執行效率,Hologres是通過INSERT來實現COPY操作。因此,當INSERT操作的並發受到限制時,COPY操作的寫入並發同樣會受到影響。
db_name:資料庫名稱。
engine_type:請求使用的引擎。取值:HQE、PQE、SQE、HiveQE。
digest:SQL指紋。關於SQL指紋詳情,請參見SQL指紋。
storage_mode:儲存模式。取值:hot、cold。
樣本
通用型執行個體
-- 在insert_queue查詢隊列的classifier_insert分類器中,設定command_tag為INSERT的匹配規則 CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'command_tag', 'INSERT'); -- 在insert_queue查詢隊列的classifier_insert分類器中,設定user_name為p4_12345的匹配規則 CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'user_name', 'p4_12345'); -- 在insert_queue查詢隊列的classifier_insert分類器中,設定db_name為prd_db的匹配規則 CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'db_name', 'prd_db'); -- 在insert_queue查詢隊列的classifier_insert分類器中,設定engine_type為HQE的匹配規則 CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'engine_type', 'HQE'); -- 在insert_queue查詢隊列的classifier_insert分類器中,設定digest為md5edb3161000a003799a5d3f2656b70b4c的匹配規則 CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'digest', 'md5edb3161000a003799a5d3f2656b70b4c'); -- 在insert_queue查詢隊列的classifier_insert分類器中,設定storage_mode為hot的匹配規則 CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'storage_mode', 'hot');
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue查詢隊列的classifier_insert分類器中,設定command_tag為INSERT的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'command_tag', 'INSERT'); -- 在init_warehouse計算群組的insert_queue查詢隊列的classifier_insert分類器中,設定user_name為p4_12345的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'user_name', 'p4_12345'); -- 在init_warehouse計算群組的insert_queue查詢隊列的classifier_insert分類器中,設定db_name為prd_db的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'db_name', 'prd_db'); -- 在init_warehouse計算群組的insert_queue查詢隊列的classifier_insert分類器中,設定engine_type為HQE的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'engine_type', 'HQE'); -- 在init_warehouse計算群組的insert_queue查詢隊列的classifier_insert分類器中,設定digest為md5edb3161000a003799a5d3f2656b70b4c的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'digest', 'md5edb3161000a003799a5d3f2656b70b4c'); -- 在init_warehouse計算群組的insert_queue查詢隊列的classifier_insert分類器中,設定storage_mode為hot的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'storage_mode', 'hot');
更多操作
大查詢控制
為了有效控制大查詢對執行個體的影響,可以通過查詢隊列進行管理並控制執行時間長度及記憶體溢出(OOM)。對於超過執行時間長度或記憶體溢出(OOM)指定閾值的查詢,可以選擇終止請求或使用Serverless Computing資源進行重運行。
Hologres V3.0版本僅支援SELECT查詢Rerun。在進行查詢Rerun時,如果使用FETCH來擷取資料,為了確保結果的準確性,僅當FETCH未能獲得任何資料時,才支援按照已配置的查詢隊列規則進行查詢Rerun。
執行時間長度查詢控制
您可以通過配置big_query_execution_time_threshold_sec參數設定執行時間長度(單位:s)。預設值為-1,表示不做任何限制。取值範圍:[-1,2147483647)。樣本如下:
樣本1:配置select_queue查詢隊列的執行時間長度為10 s,若超過10 s則終止查詢。
CALL hg_set_query_queue_property ('select_queue', 'big_query_execution_time_threshold_sec', 10);
樣本2:配置select_queue查詢隊列的執行時間長度為10 s,若超過10 s則終止查詢,並使用指定的Serverless Computing的資源重跑。
CALL hg_set_query_queue_property ('select_queue', 'big_query_execution_time_threshold_sec', 10); CALL hg_set_query_queue_property ('select_queue', 'enable_rerun_as_big_query_when_exceeded_execution_time_threshold', true); CALL hg_set_query_queue_property ('select_queue', 'rerun_big_query_on_computing_resource', 'serverless');
說明enable_rerun_as_big_query_when_exceeded_execution_time_threshold:SQL執行超過執行時間長度,請求被終止後,是否使用其他資源重跑。預設值為false。
rerun_big_query_on_computing_resource:指定重新執行SQL請求的Serverless Computing資源名稱。
記憶體溢出(OOM)查詢控制
您可以通過配置big_query_mem_threshold_when_oom_gb參數,設定記憶體溢出(OOM)閾值(單位:GB)。預設值為-1,表示不做任何限制。取值範圍:[-1,64)。樣本如下:
--配置select_queue查詢隊列中記憶體溢出(OOM)為10 GB,若其中單Worker超過10 GB時,使用Serverless Computing資源重跑 CALL hg_set_query_queue_property ('select_queue', 'big_query_mem_threshold_when_oom_gb', 10); CALL hg_set_query_queue_property ('select_queue', 'enable_rerun_as_big_query_when_oom_exceeded_mem_threshold', true); CALL hg_set_query_queue_property ('select_queue', 'rerun_big_query_on_computing_resource', 'serverless');--修改為您自訂的Serverless Computing資源名稱
查詢隊列管理
刪除查詢隊列
文法
通用型執行個體
CALL hg_drop_query_queue (query_queue_name);
計算群組型執行個體
CALL hg_drop_query_queue (warehouse_name, query_queue_name);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
樣本
通用型執行個體
-- 刪除insert_queue查詢隊列 CALL hg_drop_query_queue ('insert_queue');
計算群組型執行個體
-- 在init_warehouse計算群組中,刪除insert_queue查詢隊列 CALL hg_drop_query_queue ('init_warehouse','insert_queue');
刪除查詢隊列的屬性
文法
通用型執行個體
CALL hg_remove_query_queue_property (query_queue_name, property_key);
計算群組型執行個體
CALL hg_remove_query_queue_property (warehouse_name, query_queue_name, property_key);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
property_key:必填,屬性名稱。當前支援的相關屬性:max_concurrency、max_queue_size、queue_timeout_ms。關於屬性詳情,請參見配置查詢隊列屬性。
樣本
通用型執行個體
-- 刪除insert_queue查詢隊列的最大並發數屬性 CALL hg_remove_query_queue_property('insert_queue', max_concurrency); -- 刪除insert_queue查詢隊列的最大排隊數屬性 CALL hg_remove_query_queue_property('insert_queue', max_queue_size); -- 刪除insert_queue查詢隊列的最大排隊時間屬性 CALL hg_remove_query_queue_property('insert_queue', queue_timeout_ms);
計算群組型執行個體
-- 在init_warehouse計算群組中,刪除insert_queue查詢隊列的最大並發數屬性 CALL hg_remove_query_queue_property('init_warehouse','insert_queue', max_concurrency); -- 在init_warehouse計算群組中,刪除insert_queue查詢隊列的最大排隊數設定 CALL hg_remove_query_queue_property('init_warehouse','insert_queue', max_queue_size); -- 在init_warehouse計算群組中,刪除insert_queue查詢隊列的最大排隊時間屬性 CALL hg_remove_query_queue_property('init_warehouse','insert_queue', queue_timeout_ms);
查看查詢隊列中繼資料
查詢隊列的中繼資料存放區於系統資料表hologres.hg_query_queues
中。其主要包含的欄位資訊如下:
欄位名稱 | 欄位類型 | 說明 |
warehouse_id | INT | 計算群組ID。 說明 通用型執行個體的warehouse_id欄位值為0。 |
warehouse_name | TEXT | 計算群組名稱。 說明 通用型執行個體的warehouse_name為空白。 |
query_queue_name | TEXT | 查詢隊列名稱。 |
property_key | TEXT | 屬性名稱。 |
property_value | TEXT | 屬性值。 |
配置查詢隊列屬性
文法
通用型執行個體
CALL hg_set_query_queue_property (query_queue_name, property_key, property_value);
計算群組型執行個體
CALL hg_set_query_queue_property (warehouse_name, query_queue_name, property_key, property_value);
參數說明
warehouse_name:可選,待配置查詢隊列屬性的計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,待配置查詢隊列屬性的查詢隊列名稱。
property_key和property_value:必填,當前支援的相關屬性:
max_concurrency:最大並發數。預設值:-1,表示沒有任何並發限制,取值範圍:[ -1 , 2147483647 )。
max_queue_size:最大排隊數量,指支援的最大排隊SQL數量。預設值:-1,表示隊列無限大,取值範圍:[ -1 , 2147483647 )。
queue_timeout_ms:最長排隊時間長度(單位:ms),即在排隊時間長度超過該值時,將自動關閉查詢。預設值:-1,表示不限制排隊時間長度,取值範圍:[ -1 , 2147483647 )。
樣本
通用型執行個體
-- 配置insert_queue查詢隊列的最大並發數為15 CALL hg_set_query_queue_property('insert_queue', max_concurrency, 15); -- 配置insert_queue查詢隊列的最大排隊數為15 CALL hg_set_query_queue_property('insert_queue', max_queue_size, 15); -- 配置insert_queue的查詢隊列的最大排隊時間為3000 ms CALL hg_set_query_queue_property('insert_queue', queue_timeout_ms, 3000);
計算群組型執行個體
-- 在init_warehouse計算群組中,將insert_queue查詢隊列的最大並發數為15 CALL hg_set_query_queue_property('init_warehouse','insert_queue', max_concurrency, 15); -- 在init_warehouse計算群組中,將insert_queue查詢隊列的最大排隊數為15 CALL hg_set_query_queue_property('init_warehouse','insert_queue', max_queue_size, 15); -- 在init_warehouse計算群組中,將insert_queue查詢隊列的最大排隊時間為3000 ms CALL hg_set_query_queue_property('init_warehouse','insert_queue', queue_timeout_ms, 3000);
清空指定查詢隊列中正在排隊的請求
文法
通用型執行個體
CALL hg_clear_query_queue (query_queue_name);
計算群組型執行個體
CALL hg_clear_query_queue (warehouse_name, query_queue_name);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
樣本
通用型執行個體
-- 清空select_queue查詢隊列中正在排隊的所有請求 CALL hg_clear_query_queue ('select_queue');
計算群組型執行個體
-- 清空init_warehouse計算群組中,select_queue查詢隊列中正在排隊的所有請求 CALL hg_clear_query_queue ('init_warehouse', 'select_queue');
分類器管理
刪除分類器
文法
通用型執行個體
CALL hg_drop_classifier (query_queue_name, classifier_name);
計算群組型執行個體
CALL hg_drop_classifier (warehouse_name, query_queue_name, classifier_name);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,待建立分類器的查詢隊列名稱。
classifier_name:必填,分類器名稱。
樣本
通用型執行個體
-- 在insert_queue查詢隊列中,刪除classifier_insert分類器 CALL hg_drop_classifier ('insert_queue', 'classifier_insert');
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器 CALL hg_drop_classifier ('init_warehouse','insert_queue', 'classifier_insert');
刪除分類器屬性
文法
通用型執行個體
CALL hg_remove_classifier_property (query_queue_name, classifier_name, property_key);
計算群組型執行個體
CALL hg_remove_classifier_property (warehouse_name, query_queue_name, classifier_name, property_key);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
classifier_name:必填,分類器名稱。
property_key:必填,當前支援的相關屬性:priority。關於分類器屬性詳情,請參見配置分類器屬性。
樣本
通用型執行個體
-- 在insert_queue查詢隊列中,刪除classifier_insert分類器的優先順序屬性 CALL hg_remove_classifier_property ('insert_queue', 'classifier_insert','priority');
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器的優先順序屬性 CALL hg_remove_classifier_property ('init_warehouse','insert_queue', 'classifier_insert','priority');
配置分類器屬性
文法
通用型執行個體
CALL hg_set_classifier_property (query_queue_name, classifier_name, property_key, property_value);
計算群組型執行個體
CALL hg_set_classifier_property (warehouse_name, query_queue_name, classifier_name, property_key, property_value);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
classifier_name:必填,分類器名稱。
property_key和property_value:必填,當前支援的相關屬性:
priority:分類器匹配優先順序,數值越大優先順序越高。預設值:50,取值範圍:[ 1 , 100 ]。
說明分類器的優先順序越高,則匹配的順序越靠前。
當多個分類器具有相同的優先順序時,將依據查詢隊列和分類器名稱的字典序進行匹配,優先匹配字典序較小的項。例如,queue_a(classifier_1) 的優先順序高於 queue_b(classifier_1)。
樣本
通用型執行個體
-- 在insert_queue查詢隊列中,設定classifier_insert分類器的優先順序為30 CALL hg_set_classifier_property ('insert_queue', 'classifier_insert','priority', 30);
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue的查詢隊列中,設定classifier_insert分類器的優先順序為30 CALL hg_set_classifier_property ('init_warehouse','insert_queue', 'classifier_insert','priority', 30);
刪除分類器匹配規則
刪除分類器中指定條件屬性(condition_name)的一條匹配規則
文法
通用型執行個體
CALL hg_remove_classifier_rule_condition_value (query_queue_name, classifier_name, condition_name, condition_value);
計算群組型執行個體
CALL hg_remove_classifier_rule_condition_value (warehouse_name, query_queue_name, classifier_name, condition_name, condition_value);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
classifier_name:必填,分類器名稱。
condition_name和condition_value:必填,待刪除的條件屬性名稱和取值。當前支援的條件屬性:user_name、command_tag、db_name、engine_type、digest、storage_mode。關於分類器匹配規則的條件屬性詳情,請參見配置分類器匹配規則。
樣本
通用型執行個體
-- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中command_tag為INSERT的匹配規則 CALL hg_remove_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'command_tag', 'INSERT'); -- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中user_name為p4_12345的匹配規則 CALL hg_remove_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'user_name', 'p4_12345'); -- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中db_name為prd_db的匹配規則 CALL hg_remove_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'db_name', 'prd_db'); -- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中engine_type為HQE的匹配規則 CALL hg_remove_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'engine_type', 'HQE'); -- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中digest為md5edb3161000a003799a5d3f2656b70b4c的匹配規則 CALL hg_remove_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'digest', 'md5edb3161000a003799a5d3f2656b70b4c'); -- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中storage_mode為hot的匹配規則 CALL hg_remove_classifier_rule_condition_value ('insert_queue', 'classifier_insert', 'storage_mode', 'hot');
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器中command_tag為INSERT的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'command_tag', 'INSERT'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器中user_name為p4_12345的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'user_name', 'p4_12345'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器中db_name為prd_db的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'db_name', 'prd_db'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器中engine_type為HQE的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'engine_type', 'HQE'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert分類器中digest為md5edb3161000a003799a5d3f2656b70b4c的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'digest', 'md5edb3161000a003799a5d3f2656b70b4c'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除classifier_insert的分類器中storage_mode為hot的匹配規則 CALL hg_set_classifier_rule_condition_value ('init_warehouse','insert_queue', 'classifier_insert', 'storage_mode', 'hot');
刪除分類器中指定條件屬性(condition_name)的所有匹配規則
文法
通用型執行個體
CALL hg_remove_classifier_rule_condition (query_queue_name, classifier_name, condition_name);
計算群組型執行個體
CALL hg_remove_classifier_rule_condition (warehouse_name, query_queue_name, classifier_name, condition_name);
參數說明
warehouse_name:可選,計算群組名稱。如果未配置warehouse_name參數,則預設使用當前串連的計算群組。
說明僅計算群組型執行個體需配置此參數。
query_queue_name:必填,查詢隊列名稱。
classifier_name:必填,分類器名稱。
condition_name:必填,待刪除的條件屬性名稱。關於分類器匹配規則的條件屬性詳情,請參見配置分類器匹配規則。條件屬性當前支援的條件屬性user_name、command_tag、db_name、engine_type、digest、storage_mode。
樣本
通用型執行個體
-- 在名為insert_queue的查詢隊列中,刪除classifier_insert分類器中command_tag相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('insert_queue', 'classifier_insert', 'command_tag'); -- 在名為insert_queue的查詢隊列中,刪除名為classifier_insert的分類器中 user_name 相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('insert_queue', 'classifier_insert', 'user_name'); -- 在名為insert_queue的查詢隊列中,刪除名為classifier_insert的分類器中 db_name 相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('insert_queue', 'classifier_insert', 'db_name'); -- 在名為insert_queue的查詢隊列中,刪除名為classifier_insert的分類器中 engine_type 相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('insert_queue', 'classifier_insert', 'engine_type'); -- 在名為insert_queue的查詢隊列中,刪除名為classifier_insert的分類器中 digest 相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('insert_queue', 'classifier_insert', 'digest'); -- 在名為insert_queue的查詢隊列中,刪除名為classifier_insert的分類器中 storage_mode 相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('insert_queue', 'classifier_insert', 'storage_mode');
計算群組型執行個體
-- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除名為classifier_insert的分類器中command_tag相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('init_warehouse','insert_queue', 'classifier_insert', 'command_tag'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除名為classifier_insert的分類器中user_name相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('init_warehouse','insert_queue', 'classifier_insert', 'user_name'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除名為classifier_insert的分類器中db_name相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('init_warehouse','insert_queue', 'classifier_insert', 'db_name'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除名為classifier_insert的分類器中engine_type相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('init_warehouse','insert_queue', 'classifier_insert', 'engine_type'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除名為classifier_insert的分類器中digest相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('init_warehouse','insert_queue', 'classifier_insert', 'digest'); -- 在init_warehouse計算群組的insert_queue查詢隊列中,刪除名為classifier_insert的分類器中storage_mode相關的所有匹配規則 CALL hg_remove_classifier_rule_condition ('init_warehouse','insert_queue', 'classifier_insert', 'storage_mode');
查看分類器中繼資料
分類器的中繼資料存放區於系統資料表hologres.hg_classifiers
中。其主要包含的欄位資訊如下:
欄位 | 欄位類型 | 說明 |
warehouse_id | INT | 計算群組ID。 說明 通用型執行個體的warehouse_id欄位值為0。 |
warehouse_name | TEXT | 計算群組名稱。 說明 通用型執行個體的arehouse_name為空白。 |
query_queue_name | TEXT | 查詢隊列名稱。 |
classifier_name | TEXT | 分類器名稱。 |
property_key | TEXT | 屬性名稱。 |
property_value | TEXT | 屬性值。 |
使用Serverless Computing資源執行查詢隊列的查詢
Hologres從V3.0.10版本起,支援指定某個查詢隊列中的查詢全部由Serverless Computing資源執行。設定後,隊列中的查詢將按請求順序和配置的優先順序申請Serverless資源執行,不再受查詢隊列的並發配置、排隊機制等因素影響。詳情請參見Serverless Computing使用指南。
如果執行個體所在可用性區域不支援Serverless Computing,仍將使用本執行個體計算資源執行。
通用型執行個體
文法
-- 設定目標Queue中的查詢全部通過Serverless資源運行 CALL hg_set_query_queue_property('<query_queue_name>', 'computing_resource', 'serverless'); -- (可選)設定目標Queue中的查詢使用Serverless資源時的優先順序,支援1-5,預設為3 CALL hg_set_query_queue_property('<query_queue_name>', 'query_priority_when_using_serverless_computing', '<priority>');
參數說明
query_queue_name:必填,查詢隊列名稱。
priority:優先順序,預設為3,取值範圍
[1, 5]
。
樣本
-- 設定目標Queue中的查詢全部通過Serverless資源運行 CALL hg_set_query_queue_property('insert_queue', 'computing_resource', 'serverless'); -- 設定目標Queue中的查詢使用Serverless資源時的優先順序為2 CALL hg_set_query_queue_property('insert_queue', 'query_priority_when_using_serverless_computing', '2');
計算群組型執行個體
文法
-- 設定目標Queue中的查詢全部通過Serverless資源運行 CALL hg_set_query_queue_property('<warehouse_name>', '<query_queue_name>', 'computing_resource', 'serverless'); -- (可選)設定目標Queue中的查詢使用Serverless資源時的優先順序,支援1-5,預設為3 CALL hg_set_query_queue_property('<warehouse_name>', '<query_queue_name>', 'query_priority_when_using_serverless_computing', '<priority>');
參數說明
warehouse_name:必填,計算群組名稱。
query_queue_name:必填,查詢隊列名稱。
priority:必填,優先順序,預設為3,取值範圍
[1, 5]
。
樣本
-- 設定目標Queue中的查詢全部通過Serverless資源運行 CALL hg_set_query_queue_property('init_warehouse', 'insert_queue', 'computing_resource', 'serverless'); -- 設定目標Queue中的查詢使用Serverless資源時的優先順序為2 CALL hg_set_query_queue_property('init_warehouse', 'insert_queue', 'query_priority_when_using_serverless_computing', '2');
常見情境
查看指定SQL使用的查詢隊列
通過EXPLAIN查看具體使用的查詢隊列,其中Query Queue欄位即使用的查詢隊列。樣本如下。
-- 建立查詢隊列,並發度為 10,最大排隊數量為 20
CALL hg_create_query_queue ('select_queue', 10, 20);
-- 建立分類器並綁定 command_tag 屬性
CALL hg_create_classifier ('select_queue', 'classifier_1');
CALL hg_set_classifier_rule_condition_value ('select_queue', 'classifier_1', 'command_tag', 'select');
-- 通過 Explain Analyze 查看 Query 所匹配的 Classifier 和 Query queue
EXPLAIN ANALYZE SELECT * FROM hg_stat_activity;
返回結果如下。
QUERY PLAN
Gather (cost=0.00..14.96 rows=1000 width=408)
[4:1 id=100003 dop=1 time=16/16/16ms rows=142(142/142/142) mem=43/43/43KB open=0/0/0ms get_next=16/16/16ms]
-> Forward (cost=0.00..12.19 rows=1000 width=408)
[0:4 id=100002 dop=4 time=16/8/5ms rows=142(39/35/33) mem=6/6/6KB open=16/8/5ms get_next=0/0/0ms scan_rows=142(39/35/33)]
-> ExecuteExternalSQL on PQE (cost=0.00..10.04 rows=0 width=408)
" External SQL: SELECT "datid" AS c_d2adb610_0, "datname" AS c_d2adb760_1, "pid" AS c_d2adb8a0_2, "usesysid" AS c_d2adba10_3, "usename" AS c_d2adbb60_4, "application_name" AS c_d2adbd10_5, "client_addr" AS c_d2adbe80_6, "client_hostname" AS c_d2df1020_7, "client_port" AS c_d2df1190_8, "backend_start" AS c_d2df1300_9, "xact_start" AS c_d2df1470_10, "query_start" AS c_d2df15e0_11, "state_change" AS c_d2df1750_12, "wait_event_type" AS c_d2df18c0_13, "wait_event" AS c_d2df1a30_14, "state" AS c_d2df1b80_15, "backend_xid" AS c_d2df1cf0_16, "backend_xmin" AS c_d2df1e60_17, "query" AS c_d2df1fb0_18, "backend_type" AS c_d2df2120_19, "query_id" AS c_d2df2290_20, "transaction_id" AS c_d2df2400_21, "extend_info" AS c_d2df2570_22, "running_info" AS c_d2df26e0_23 FROM pg_catalog."hg_stat_activity""
Query id:[1001002491453065719]
Query Queue: init_warehouse.select_queue.classifier_1
查看活躍Query中SQL使用的查詢隊列
可以通過如下SQL查看活躍Query中SQL使用的查詢隊列名稱、目前狀態和排隊時間等資訊。
SELECT
running_info::json -> 'current_stage' ->> 'stage_name' AS stage_name,
running_info::json -> 'current_stage' ->> 'queue_time_ms' AS queue_time_ms,
running_info::json ->> 'query_queue' AS query_queue,
*
FROM
hg_stat_activity;
查看Query Log中SQL使用的查詢隊列
可以使用如下SQL查看Query Log中的SQL使用的查詢隊列、目前狀態和排隊時間,其中query_detail欄位會記錄SQL使用的查詢隊列。關於hologres.hg_query_log系統資料表詳情,請參見查看query_log表。
SELECT * FROM hologres.hg_query_log WHERE query_detail like '%query_queue = <warehouse_name>.<queue_name>%';--僅計算群組類型執行個體需配置該參數warehouse_name
執行上述SQL返回的extended_info
欄位,包含以下資訊:
serverless_computing_source
:表示SQL來源,表示使用Serverless Computing資源執行的SQL。取值如下:user_submit
:自行指定使用Serverless資源執行的SQL,與Query Queue無關。query_queue
:指定查詢隊列的SQL全部由Serverless資源執行。query_queue_rerun
:通過Query Queue的大查詢控制功能,自動使用Serverless資源重新啟動並執行SQL。
query_id_of_triggered_rerun
:該欄位僅在serverless_computing_source為query_queue_rerun時存在,表示重新啟動並執行SQL對應的原始Query ID。
建立不同匹配規則的查詢隊列
樣本1:建立請求類型為INSERT匹配規則的查詢隊列。樣本如下。
建立完成後,所有INSERT類型的SQL請求將被classifier_1分類器匹配並分配到insert_queue查詢隊列。
-- 建立查詢隊列,並發度為 10,最大排隊數量為 20 CALL hg_create_query_queue ('insert_queue', 10, 20); -- 建立分類器並綁定 command_tag 屬性 CALL hg_create_classifier ('insert_queue', 'classifier_1'); CALL hg_set_classifier_rule_condition_value ('insert_queue', 'classifier_1', 'command_tag', 'INSERT');
建立使用者為p4_123和p4_345匹配規則的查詢隊列。樣本如下。
建立完成後,p4_123、p4_345使用者提交的SQL請求將被classifier_2分類器匹配並分配到user_queue查詢隊列。
-- 建立查詢隊列,並發度為 3,最大排隊數量為無窮大 CALL hg_create_query_queue ('user_queue', 3); CALL hg_set_query_queue_property('user_queue','max_queue_size', -1) -- 建立分類器並設定user_name匹配規則 CALL hg_create_classifier ('user_queue', 'classifier_2'); CALL hg_set_classifier_rule_condition_value ('user_queue', 'classifier_2', 'user_name', 'p4_123'); CALL hg_set_classifier_rule_condition_value ('user_queue', 'classifier_2', 'user_name', 'p4_345');
建立資料庫名稱為test和postgres DB匹配規則的查詢隊列。樣本如下。
建立完成後,test和postgres DB資料庫相關的SQL請求將被classifier_3分類器匹配並分配到db_queue查詢隊列。
-- 建立查詢隊列,並發度為 5 CALL hg_create_query_queue ('db_queue', 5); -- 設定最大排隊時間為600000 ms,排隊超過這個時間則報錯 CALL hg_set_query_queue_property ('db_queue', 'queue_timeout_ms', '600000'); -- 建立分類器並綁定 db_name 屬性 CALL hg_create_classifier ('db_queue', 'classifier_3'); CALL hg_set_classifier_rule_condition_value ('db_queue', 'classifier_3', 'db_name', 'test'); CALL hg_set_classifier_rule_condition_value ('db_queue', 'classifier_3', 'db_name', 'postgres');
建立引擎類型為HQE匹配規則的查詢隊列。樣本如下。
建立完成後,HQE引擎相關的SQL請求將被classifier_4分類器匹配並分配到hqe_queue查詢隊列。
-- 建立查詢隊列,並發度為10 CALL hg_create_query_queue ('hqe_queue', 10); -- 建立分類器並綁定engine_type屬性 CALL hg_create_classifier ('hqe_queue', 'classifier_4'); CALL hg_set_classifier_rule_condition_value ('hqe_queue', 'classifier_4', 'engine_type', 'HQE');
禁止所有任務(極端情境)
將insert_queue查詢隊列的並發度和排隊數設定為0。樣本如下。
CALL hg_set_query_queue_property ('insert_queue', 'max_concurrency', '0');
CALL hg_set_query_queue_property ('insert_queue', 'max_queue_size', '0');