实时数仓Hologres：监控指标常见问题

• 写入在查询低峰期进行，降低对查询的影响。
• 降低写入的并发度，提高查询效率，如果是外表写入，可以用以下参数降低并发度。

  --设置MaxCompute执行的最大并发度，默认为128，建议数值设置小一些，避免一个Query影响其他Query，导致系统繁忙导致报错。
  set hg_experimental_foreign_table_executor_max_dop = 32; --优先考虑设置
  
  --调整每次读取MaxCompute表batch的大小，默认8192。
  set hg_experimental_query_batch_size = 1024;
  
  --直读orc
  set hg_experimental_enable_access_odps_orc_via_holo = on;
  
  --设置MaxCompute表访问切分spilit的数目，可以调节并发数目，默认64MB，当表很大时需要调大，避免过多的split影响性能。
  set hg_experimental_foreign_table_split_size = 512MB;

• 查询数据（select）行为导致CPU使用率上涨，可以通过慢Query日志，排查耗时较长的Query，对Query进行针对性优化。
• 执行insert、update或delete操作导致CPU使用率上涨，建议通过慢Query日志排查Query是否未走Fixed Plan，如下SQL所示。未走Fixed Plan的insert、update或delete命令会产生表锁，Query并发会造成锁等待，可以从业务上判断是否可以改写为走Fixed Plan的SQL，避免表锁，降低CPU水位。

  --示例查看过去一小时未走fixed plan的insert/update/delete
  select *
  from hologres.hg_query_log
  where query_start >= now() - interval '3 h'
      and command_tag in ('INSERT','UPDATE','DELETE')
      and 'HQE'=ANY(engine_type)
  order by query_start desc limit 500;

• SQL都已经合理，但是CPU使用率还是比较高，说明实例资源已到瓶颈，可以适当的扩容或者使用多实例共享存储部署从而读写分离，详情请参见实例升配或多实例读写分离高可用部署（共享存储）。

--查看运行时间较长的query
SELECT current_timestamp - query_start as runtime, datname::text, usename, query, pid::text
    FROM pg_stat_activity
    WHERE state != 'idle'
    order by 1 desc;

--取消query执行
select pg_cancel_backend(<pid>);

-- 查询最近3小时消耗比较高的Query
select status as "状态",
duration as "耗时(ms)",
query_start as "开始时间",
(read_bytes/1048576)::text || ' MB' as "读取量",
(memory_bytes/1048576)::text || ' MB' as "内存",
(shuffle_bytes/1048576)::text || ' MB' as "Shuffle",
(cpu_time_ms/1000)::text || ' s' as "CPU时间",
physical_reads as "读盘量",
query_id as "QueryID",
query
from hologres.hg_query_log
where query_start > current_timestamp - interval'3 h'
and command_tag in ('SELECT','INSERT','UPDATE','DELETE')
and duration > 1000
order by duration desc,
read_bytes desc,
shuffle_bytes desc,
memory_bytes desc,
cpu_time_ms desc,
physical_reads desc
limit 500;

--查询最近3小时走PQE的query
select *
from hologres.hg_query_log
where query_start > current_timestamp - interval'3 h'
    and 'PQE'=ANY(engine_type)
order by query_start desc limit 500;

--查询最近3小时内执行过修改索引的记录
select *
from hologres.hg_query_log
where query_start >= now() - interval '3 h'
and command_tag in ('CALL')
order by query_start desc limit 500;

--查看运行时间较长的query
SELECT current_timestamp - query_start as runtime, datname::text, usename, query, pid::text
    FROM pg_stat_activity
    WHERE state != 'idle'
    order by 1 desc;

--查看query的执行计划
explain sql

• 使用Superuser账号Kill运行时间较长的Query。
• 优化SQL中走PQE引擎的算子，详情请参见优化内部表的性能。

• 可以通过如下命令查看是否有DDL正在执行中，并Kill掉对应的DDL，释放锁。

  SELECT datname::text,usename,query,pid::text,state
     FROM pg_stat_activity
     WHERE state != 'idle' ;

• 串行执行DDL。

select hg_shard_id,count(1) from <table_name> group by hg_shard_id;

--示例结果：shard 39的count值较大，存在倾斜
hg_shard_id | count
-------------+--------
          53 |  29130
          65 |  28628
          66 |  26970
          70 |  28767
          77 |  28753
          24 |  30310
          15 |  29550
          39 | 164983