实时数仓Hologres：Serverless Computing使用指南

设置单条SQL的Serverless Computing资源上限

• 您可以执行如下代码，设置每条SQL被分配的Serverless Computing资源上限。

  -- 配置单个Serverless Computing分配的最大CU，默认为512。
  SET hg_experimental_serverless_computing_max_cores = 512;
  
  -- 重置配置
  reset hg_experimental_serverless_computing_max_cores;

• 使用示例

  -- 使用Serverless Computing资源执行SQL
  SET hg_computing_resource = 'serverless';
  
  -- 设置单条SQL最多使用32CU执行
  SET hg_experimental_serverless_computing_max_cores = 32;
  
  -- 执行SQL
  INSERT INTO sink_tbl SELECT * FROM source_tbl;
  
  -- 重置配置
  reset hg_computing_resource;
  reset hg_experimental_serverless_computing_max_cores;

设置单条SQL的Serverless Computing资源分配

针对hg_experimental_serverless_computing_required_cores参数，系统会根据SQL的复杂程度自动估算需要的资源量。系统自动估算出的资源量可以有效平衡Serverless资源利用和SQL执行时长。若需某条SQL能够分配到更多的Serverless Computing资源，您可通过设置hg_experimental_serverless_computing_required_cores参数进行Serverless Computing资源分配。

• 您可以执行如下代码，设置单个SQL语句在执行时所分配的Serverless Computing资源。

  -- 默认为0，表示该Serverless Computing的计算资源由系统自动估算
  SET hg_experimental_serverless_computing_required_cores = XX;
  
  -- 重置配置
  reset hg_experimental_serverless_computing_required_cores;

• 使用示例

  --使用Serverless Computing资源执行SQL
  SET hg_computing_resource = 'serverless';
  
  --Serverless Computing的计算资源不由系统估算，申请96CU的计算资源
  SET hg_experimental_serverless_computing_required_cores = 96;
  
  -- 执行SQL
  INSERT INTO sink_tbl SELECT * FROM source_tbl;
  
  -- 重置配置
  reset hg_computing_resource;
  reset hg_experimental_serverless_computing_required_cores;

设置单条SQL的Serverless Computing资源的优先级

• 您可以执行如下代码，设置Serverless Computing资源中SQL执行的优先级。

  -- 优先级范围为 [1, 5], 数值越大，优先级越高，越优先分配资源（和分配资源数量无关）
  -- 默认优先级为3.
  SET hg_experimental_serverless_computing_query_priority to 5;
  -- 重置配置
  reset hg_experimental_serverless_computing_query_priority;

• 使用示例

  --使用Serverless Computing资源执行 SQL.
  SET hg_computing_resource = 'serverless';
  
  -- 设置该SQL的优先级是5
  SET hg_experimental_serverless_computing_query_priority to 5;
  
  -- 执行SQL
  INSERT INTO sink_tbl SELECT * FROM source_tbl;
   
  -- 重置配置
  reset hg_computing_resource;
  reset hg_experimental_serverless_computing_query_priority;

设置用户/角色的全部SQL默认通过Serverless Computing执行

您可以执行如下代码，针对某一用户/角色，使其发起的全部SQL均默认使用Serverless Computing资源执行。

--针对某用户在某DB下，默认使用Serverless Computing资源执行SQL
ALTER USER <user_name> IN DATABASE <db_name> SET hg_computing_resource = 'serverless';

设置查询队列Query Queue的全部SQL通过Serverless Computing执行

您可以执行如下代码，以针对某一查询队列，使其所有SQL语句均使用Serverless Computing资源执行。有关查询队列的配置方法，详情请参见Query Queue（Beta）。

• 通用型实例

  -- 设置目标Queue中的查询全部通过Serverless资源运行
  CALL hg_set_query_queue_property('<query_queue_name>', 'computing_resource', 'serverless');
  
  -- （可选）设置目标Queue中的查询使用Serverless资源时的优先级，支持1-5，默认为3
  CALL hg_set_query_queue_property('<query_queue_name>', 'query_priority_when_using_serverless_computing', '<priority>');

• 计算组型实例

  -- 设置目标Queue中的查询全部通过Serverless资源运行
  CALL hg_set_query_queue_property('<warehouse_name>', '<query_queue_name>', 'computing_resource', 'serverless');
  
  -- （可选）设置目标Queue中的查询使用Serverless资源时的优先级，支持1-5，默认为3
  CALL hg_set_query_queue_property('<warehouse_name>', '<query_queue_name>', 'query_priority_when_using_serverless_computing', '<priority>');

查看实例使用Serverless Computing的监控指标

您可通过以下方式查看Serverless Query最长运行时长、Serverless Computing Query排队数量、Serverless Computing资源Quota使用率的监控指标。如有需要，可进一步配置监控告警，详情请参见云监控。

1. 登录Hologres管理控制台。

2. 在Hologres管理控制台顶部菜单栏，选择目标地域。

3. 单击左侧导航栏的实例列表。

4. 在实例列表页面单击目标实例名称，进入实例详情页。

   您也可以单击目标实例操作列的管理，进入实例详情页。

5. 在实例详情页左侧导航栏，单击监控信息，查看监控指标。

查看Serverless Computing资源中SQL任务的运行状态

• 查看Serverless Computing资源中正在运行的SQL任务。

  SELECT
      *,
      (running_info::json) ->> 'computing_resource' AS computing_resource,
      (running_info::json) ->> 'current_stage' AS current_stage
  FROM
      hg_stat_activity
  WHERE (running_info::json) ->> 'computing_resource' = 'Serverless'
      AND (running_info::json) -> 'current_stage'->>'stage_name' = 'EXECUTE'

• 查看Serverless Computing资源中排队的SQL任务。

  SELECT
      *,
      (running_info::json) ->> 'computing_resource' AS computing_resource,
      (running_info::json) ->> 'current_stage' AS current_stage
  FROM
      hg_stat_activity
  WHERE (running_info::json) ->> 'computing_resource' = 'Serverless'
      AND (running_info::json) -> 'current_stage'->>'stage_name' = 'QUEUE'

• 查看Serverless Computing资源中SQL任务的运行状态。

  SELECT
      *,
      (running_info::json) ->> 'computing_resource' AS computing_resource,
      (running_info::json) ->> 'current_stage' AS current_stage
  FROM
      hg_stat_activity
  WHERE 
      query_id = '<query_id>';

查询历史的Serverless Computing任务

• 在慢Query日志中查看在Serverless Computing资源中执行的历史任务。

  SELECT
      *,
      extended_cost::json ->> 'queue_time_ms' AS queue_time_ms,--Serverless Computing资源中SQL等待排队时长。
      extended_cost::json ->> 'serverless_allocated_cores' AS serverless_allocated_cores,--Serverless Computing资源分配给当前SQL的CU数。
      extended_cost::json ->> 'serverless_allocated_workers' AS serverless_allocated_workers,--Serverless Computing资源分配给当前SQL的Worker数。
      extended_cost::json ->> 'serverless_resource_used_time_ms' AS serverless_resource_used_time_ms--当前SQL实际占用Serverless Computing资源的时长。
  FROM
      hologres.hg_query_log
  WHERE
      query_extinfo @> ARRAY['serverless_computing'::text];

• 在hologres.hg_serverless_computing_query_log视图中查看在Serverless Computing资源中执行的历史任务。

  SELECT
      *
  FROM
      hologres.hg_serverless_computing_query_log;

  说明

  自2.1.18版本开始，为了方便查询，将慢Query日志中Serverless Computing任务相关内容固化为列，并且新增了hologres hg_serverless_computing_query_log视图。相对于慢Query日志hologres.hg_serverless_computing_query_log视图中新增以下字段：

  • queue_time_ms：Serverless Computing资源中SQL等待排队时长，单位毫秒（ms）。

  • serverless_allocated_cores：Serverless Computing资源实际分配给当前SQL的CU数。

  • serverless_allocated_workers：Serverless Computing资源实际分配给当前SQL的Worker数。

  • serverless_resource_used_time_ms：当前SQL实际占用Serverless Computing资源的时长，单位毫秒（ms）。

  • extended_info字段中新增以下信息：

    • serverless_computing_source：表示SQL来源，表示使用Serverless Computing资源执行的SQL。取值如下：

      • user_submit：自行指定使用Serverless资源执行的SQL，与Query Queue无关。

      • query_queue：指定查询队列的SQL全部由Serverless资源执行。

      • query_queue_rerun：通过Query Queue的大查询控制功能，自动使用Serverless资源重新运行的SQL。

    • query_id_of_triggered_rerun：该字段仅在serverless_computing_source为query_queue_rerun时存在，表示重新运行的SQL对应的原始Query ID。

  针对部分特殊任务，如COPY、CTAS等，在慢Query日志中会产生多条记录，包括COPY或CTAS本身及其过程中产生的INSERT记录，其中的INSERT会实际使用Serverless资源执行。可以通过COPY或CTAS的trans_id字段关联到INSERT记录，关联示例如下。

  SELECT
      query_id,
      query,
      extended_info
  FROM
      hologres.hg_query_log
  WHERE
      extended_info ->> 'source_trx' = '<transaction_id>' -- 通过COPY/CTAS等本身记录的trans_id字段可以取到transaction id
  ORDER BY
      query_start
  ;

查看当前数据库运行的SQL占用的Serverless Computing资源

• 查看Serverless Computing资源中正在运行的SQL任务占用的总资源量。

  SELECT
      datname::text as db_name,
      (running_info::json) -> 'current_stage' ->> 'stage_name' AS current_stage,
      SUM(((running_info::json) -> 'current_stage' ->> 'serverless_allocated_cores')::int) AS total_computing_resource,
      count(1) as query_qty
  FROM
      hg_stat_activity
  WHERE (running_info::json) ->> 'computing_resource' = 'Serverless'
  GROUP BY
      1,
      2;

• 返回结果字段说明

  字段	描述
  db_name	数据库名称。
  current_stage	当前SQL执行阶段。 PARSE：SQL解析。 OPTIMIZE：生成执行计划。 QUEUE：等待资源。 START：Query开始阶段。 EXECUTE：Query执行阶段。 FINISH：Query完成。
  total_computing_resourcet	在当前数据库和SQL执行阶段，使用的Serverless Computing资源总量。
  query_qty	SQL数量。