Hologres：監控指標常見問題

• 寫入在查詢低峰期進行，降低對查詢的影響。
• 降低寫入的並發度，提高查詢效率，如果是外表寫入，可以用以下參數降低並發度。

  --設定MaxCompute執行的最大並發度，預設為128，建議數值設定小一些，避免一個Query影響其他Query，導致系統繁忙導致報錯。
  set hg_experimental_foreign_table_executor_max_dop = 32; --優先考慮設定
  
  --調整每次讀取MaxCompute表batch的大小，預設8192。
  set hg_experimental_query_batch_size = 1024;
  
  --直讀orc
  set hg_experimental_enable_access_odps_orc_via_holo = on;
  
  --設定MaxCompute表訪問切分spilit的數目，可以調節並發數目，預設64MB，當表很大時需要調大，避免過多的split影響效能。
  set hg_experimental_foreign_table_split_size = 512MB;

• 查詢資料（select）行為導致CPU使用率上漲，可以通過慢Query日誌，排查耗時較長的Query，對Query進行針對性最佳化。
• 執行insert、update或delete操作導致CPU使用率上漲，建議通過慢Query日誌排查Query是否未走Fixed Plan，如下SQL所示。未走Fixed Plan的insert、update或delete命令會產生表鎖，Query並發會造成鎖等待，可以從業務上判斷是否可以改寫為走Fixed Plan的SQL，避免表鎖，降低CPU水位。

  --樣本查看過去一小時未走fixed plan的insert/update/delete
  select *
  from hologres.hg_query_log
  where query_start >= now() - interval '3 h'
      and command_tag in ('INSERT','UPDATE','DELETE')
      and 'HQE'=ANY(engine_type)
  order by query_start desc limit 500;

• SQL都已經合理，但是CPU使用率還是比較高，說明執行個體資源已到瓶頸，可以適當的擴容或者使用多執行個體共用儲存部署從而讀寫分離，詳情請參見執行個體升配或主從執行個體讀寫分離部署（共用儲存）。

--查看已耗用時間較長的query
SELECT current_timestamp - query_start as runtime, datname::text, usename, query, pid::text
    FROM pg_stat_activity
    WHERE state != 'idle'
    order by 1 desc;

--取消query執行
select pg_cancel_backend(<pid>);

-- 查詢最近3小時消耗比較高的Query
select status as "狀態",
duration as "耗時(ms)",
query_start as "開始時間",
(read_bytes/1048576)::text || ' MB' as "讀取量",
(memory_bytes/1048576)::text || ' MB' as "記憶體",
(shuffle_bytes/1048576)::text || ' MB' as "Shuffle",
(cpu_time_ms/1000)::text || ' s' as "CPU時間",
physical_reads as "讀盤量",
query_id as "QueryID",
query
from hologres.hg_query_log
where query_start > current_timestamp - interval'3 h'
and command_tag in ('SELECT','INSERT','UPDATE','DELETE')
and duration > 1000
order by duration desc,
read_bytes desc,
shuffle_bytes desc,
memory_bytes desc,
cpu_time_ms desc,
physical_reads desc
limit 500;

--查詢最近3小時走PQE的query
select *
from hologres.hg_query_log
where query_start > current_timestamp - interval'3 h'
    and 'PQE'=ANY(engine_type)
order by query_start desc limit 500;

--查詢最近3小時內執行過修改索引的記錄
select *
from hologres.hg_query_log
where query_start >= now() - interval '3 h'
and command_tag in ('CALL')
order by query_start desc limit 500;

--查看已耗用時間較長的query
SELECT current_timestamp - query_start as runtime, datname::text, usename, query, pid::text
    FROM pg_stat_activity
    WHERE state != 'idle'
    order by 1 desc;

--查看query的執行計畫
explain sql

• 使用Superuser帳號Kill已耗用時間較長的Query。
• 最佳化SQL中走PQE引擎的運算元，詳情請參見最佳化查詢效能。

• 可以通過如下命令查看是否有DDL正在執行中，並Kill掉對應的DDL，釋放鎖。

  SELECT datname::text,usename,query,pid::text,state
     FROM pg_stat_activity
     WHERE state != 'idle' ;

• 串列執行DDL。

select hg_shard_id,count(1) from <table_name> group by hg_shard_id;

--樣本結果：shard 39的count值較大，存在傾斜
hg_shard_id | count
-------------+--------
          53 |  29130
          65 |  28628
          66 |  26970
          70 |  28767
          77 |  28753
          24 |  30310
          15 |  29550
          39 | 164983