实时数仓Hologres：ANALYZE和AUTO ANALYZE

Analyze

统计信息决定是否能够生成正确的执行计划。Hologres需要收集数据的采样统计信息，包括数据的分布和特征、表的统计信息、列的统计信息、行数、列数、字段宽度、基数、频度、最大值、最小值、高频值、分桶分布特征等信息。这些信息将为优化器更新算子执行预估COST、搜索空间裁剪、估算最优JOIN ORDER、估算内存开销、估算并行度，从而生成更优的执行计划。

Auto Analyze

为了减少重复、手动的Analyze，从Hologres V0.10版本开始，支持Auto Analyze机制。开启auto analyze后，系统会根据用户的建表、数据写入和修改情况等来判断是否需要对相关的表在后台自动Analyze，无需再手动对表进行Analyze，降低操作复杂度，同时减少遗漏Analyze而导致缺失统计信息的情况。

• 使用语法

  • 查看是否开启Auto Analyze

    SHOW hg_enable_start_auto_analyze_worker;  -- V1.1及以上版本语法，查看当前开启/关闭状态
    
    SHOW hg_experimental_enable_start_auto_analyze_worker;  -- V0.10语法，查看当前开启/关闭状态

  • 开启/关闭语法如下，需要Superuser执行。

    -- DB级别，执行后整个DB生效，V1.1及以上版本开启/关闭语法
    ALTER DATABASE dbname SET hg_enable_start_auto_analyze_worker = ON;  -- 开启（默认）
    ALTER DATABASE dbname SET hg_enable_start_auto_analyze_worker = OFF; -- 关闭
    
    -- DB级别，执行后整个DB生效，V0.10开启/关闭语法
    ALTER DATABASE dbname SET hg_experimental_enable_start_auto_analyze_worker = ON;  -- 开启（默认）
    ALTER DATABASE dbname SET hg_experimental_enable_start_auto_analyze_worker = OFF; -- 关闭

• 使用限制

  在Hologres中使用Auto Analyze，具体限制如下：

  • Auto Analyze功能仅Hologres V0.10及以上版本支持，请在Hologres管理控制台的实例详情页查看当前版本，如果您的实例是V0.10以下版本，请您使用自助升级或加入Hologres钉钉交流群反馈，详情请参见如何获取更多的在线支持？。

  • 仅支持Superuser执行开启或关闭Auto Analyze操作。

  • Auto Analyze对分区表的限制如下。

    • 分区子表发生改变，需要Auto Analyze时，会统一Analyze其父表。

    • 分区表有扫描行数限制，采样数据时默认扫描的最大记录数是2²⁴条（16,777,216条），即若所有分区子表的记录数总和超过16,777,216条，会做一定的分区裁剪，只对其中若干分区（总和不超过16,777,216条）进行采样。

      说明

      分区列统计信息总是全的，不受裁剪影响，但是这可能会影响与分区列同分布的列（例如极端情况是，与分区列数据一样的列）的统计信息，即一部分值采样不到，行数估计可能不准确。如果有需求可以搜索（钉钉群号：32314975）加入实时数仓Hologres交流群联系技术支持，技术侧根据实例情况评估调整扫描的最大记录数。

  • Auto Analyze默认最大收集256列的统计信息，如表超过256列，取前256列。可通过调整hg_experimental_auto_analyze_max_columns_count改变此值。

  • Auto Analyze默认单个Worker限制的内存是4 GB，如果存在超宽的列，采样可能超出内存而导致Analyze失败。可调整auto_analyze_work_memory_mb参数改变其大小，但是要注意对系统内存的影响。实例规格越大，Worker数越多，Auto Analyze可用内存限制越大。

• Auto Analyze工作原理

  当开始Auto Analyze后，系统后台会定期巡检是否有表需要执行Analyze。

  • 普通表（内部表，包括单表和分区表）

    • 每隔1分钟巡检是否有表的最新动作（主要是INSERT、UPDATE、DELETE等DML操作，可能改变了数据量）。满足以下条件，系统后台触发表的Analyze，收集表的统计信息。

      • 表有DML执行完成且数据条数变化超过当前表的数据条数的10%。若表是分区子表，则是指变化条数超过此分区数据条数的10%。

      • TRUNCATE TABLE清空表。

      • 表的DDL发生变更。例如CREATE TABLE新建表，ALTER TABLE修改表结构等，不包括CALL SET_TABLE_PROPERTY修改表属性。

    • 每隔10分钟检测所有内部表的数据变化，如果满足数据条数变化超过上一次检测的10%，则后台触发该表的Analyze。

      说明

      这一步骤是为了检测到非显式DML（例如通过Flink、数据集成、HoloClient实时写入）更新的数据。

  • 外部表

    • 当前仅支持Analyze MaxCompute外部表，其他引擎的外部表暂不支持Analyze和Auto Analyze。

    • 每隔4小时定期巡检外部表元数据或数据变化情况。满足以下条件，系统后台触发表的Analyze，收集统计信息。

      外部表对应的外部系统的表（例如MaxCompute表）在两次巡检间隔（例如4小时内）改变过，改变的标准是对应MaxCompute表的last_modify_time处于巡检间隔之间。

  说明

  巡检和执行在同一个调度任务中，所以下一次巡检调度开始依赖Analyze执行结束，只要离上一次开始巡检的时间满足调度周期，就可以进入下一次巡检。

• 配置参数

  开启Auto Analyze后，系统默认会自动周期性巡检，决定需要执行Analyze的表，并进行采样计算，收集统计信息，对系统资源有一定的消耗。

  在某些业务场景下，默认的机制可能不适用于业务场景，例如数据写入更新不频繁场景，可以通过修改默认参数来减少自动Analyze的频率。诸如此类可以根据业务情况更改默认参数，以此达到部分性能调优的目的。

  说明

  只有Superuser能调整Auto Analyze的默认行为，且都需要数据库级别设置参数，且在下一分钟后生效。

  • 使用语法

    --Superuser修改Auto Analyze参数的默认值
    ALTER DATABASE <dbname> SET <GUC>=<values>;

    dbname为数据库名称；GUC为参数名称；values为参数值。

  • 参数列表

    参数	参数描述	支持版本	默认值	使用示例
    autovacuum_naptime	巡检是否有表的最新动作的周期，单位是秒（s）。	V1.1.0及以上版本 说明 需后台调整，如需调整请搜索（钉钉群号：32314975）加入实时数仓Hologres交流群申请。	60s	ALTER DATABASE <dbname> SET autovacuum_naptime = 60; ALTER DATABASE <dbname> SET autovacuum_naptime = '60s'; ALTER DATABASE <dbname> SET autovacuum_naptime = '10min';
    hg_auto_check_table_changes_interval	检查所有内部表的数据变化的周期，单位是秒（s）。	V1.1.0及以上版本	600s（10min）	--V1.1及以上版本命令语法 ALTER DATABASE <dbname> SET hg_auto_check_table_changes_interval = '600s'; --V0.10版本命令语法 ALTER DATABASE <dbname> SET hg_experimental_auto_check_table_changes_interval = '600s';
    hg_auto_check_foreign_table_changes_interval	检查所有外部表的数据变化的周期，单位是秒（s）。	V1.1.0及以上版本	14400s（4小时）	--V1.1及以上版本命令语法 ALTER DATABASE <dbname> SET hg_auto_check_foreign_table_changes_interval = '14400s'; --V0.10版本命令语法 ALTER DATABASE <dbname> SET hg_experimental_auto_check_foreign_table_changes_interval = '14400s';
    hg_experimental_auto_analyze_max_columns_count	自动收集统计信息的列数，单位是个。	V1.1.0及以上版本	256个	ALTER DATABASE <dbname> SET hg_experimental_auto_analyze_max_columns_count =300;
    auto_analyze_work_memory_mb	Auto Analyze单个表的内存限制，单位是MB。	V1.1.54及以上版本	默认单个Worker 4096 MB，即4GB，实例规格越大，Worker越多，真实内存限制越大。	Auto Analyze单个表的内存限制修改为9GB。 ALTER DATABASE <dbname> SETauto_analyze_work_memory_mb =9216;
    hg_experimental_auto_analyze_start_time	Auto-Analyze在每天运行的开始时间 说明 需要与end_time是同一时区，并且start time要小于等于end_time。	V1.1.54及以上版本	00:00 +0800	修改为仅需要在0～6点执行Auto-Analyze，白天内外部表数据不变，无需Analyze的情况。 ALTER DATABASE <dbname> SET hg_experimental_auto_analyze_start_time = '00:00 +0800'; ALTER DATABASE <dbname> SET hg_experimental_auto_analyze_end_time = '06:00 +0800';
    hg_experimental_auto_analyze_end_time	Auto Analyze在每天运行的结束时间。	V1.1.54及以上版本	23:59 +0800
    autovacuum_enabled	表Auto Analyze的开启状态。	V1.1.54及以上版本	true，即默认全部开启。	关闭某表的Auto Analyze，以后Analyze将跳过此表。 说明 仅支持使用如下命令为Hologres内部表关闭Auto Analyze。 ALTER TABLE <tablename> SET (autovacuum_enabled = false);

查询统计信息

SELECT schema_name,                -- 表的Schema
       table_name,                 -- 表名称
       schema_version,             -- 表的版本
       statistic_version,          -- 最近一次ANALYZE的统计信息版本
       total_rows,                 -- 最近一次ANALYZE的行数
       analyze_timestamp           -- 最近一次ANALYZE的结束时间
FROM   hologres_statistic.hg_table_statistic
WHERE  table_name = '<tablename>'
ORDER BY analyze_timestamp DESC;

查看缺失统计信息的表

通过HG_STATS_MISSING视图，可以查看当前数据库中缺失统计信息的表，详情请参见HG_STATS_MISSING View。

常见问题