全部产品
Search
文档中心

云原生数据库 PolarDB:Thread Pool

更新时间:Jul 12, 2024

为了发挥出PolarDB MySQL版的最佳性能,PolarDB提供线程池(Thread Pool)功能,将线程和会话分离,在拥有大量会话的同时,只需要少量线程完成活跃会话的任务即可。

优势

MySQL默认的线程使用模式是会话独占模式,每个会话都会创建一个独占的线程。当有大量的会话存在时,会出现大量的资源竞争导致性能下降。同时大量的系统线程调度和缓存失效也会导致性能急剧下降。

PolarDB的线程池实现了不同类型SQL操作的优先级及并发控制机制,将连接数始终控制在最佳连接数附近,使PolarDB数据库在高连接大并发情况下始终保持高性能。线程池的优势如下:

  • 当大量线程并发工作时,线程池会自动调节并发的线程数量在合理的范围内,从而避免线程调度工作过多和大量缓存失效。

  • 大量的事务并发执行时,线程池会将语句和事务分为不同的优先级,分别控制语句和事务的并发数量,从而减少资源竞争。

  • 线程池给予管理类的SQL语句更高的优先级,保证这些语句优先执行。这样在系统负载很高时,新建连接、管理、监控等操作也能够稳定执行。

  • 线程池给予复杂查询SQL语句相对较低的优先级,并且有最大并发数的限制。这样可以避免过多的复杂SQL语句将系统资源耗尽,导致整个数据库服务不可用。

使用Thread Pool

Thread Pool设计了以下参数,您可以在控制台进行修改。具体请参见设置集群参数和节点参数

参数名称

说明

loose_thread_pool_enabled

是否开启线程池功能。取值:

  • ON

  • OFF

默认值:OFF。

说明

开启或关闭线程池功能无需重启实例。

loose_thread_pool_size

线程池中线程组的数量。取值范围与集群中主节点规格的CPU核数有关。

取值:DBNodeClassCPU~DBNodeClassCPU*10。

默认值:DBNodeClassCPU*2。

说明
  • DBNodeClassCPU为主节点规格的CPU核数,整数类型。

  • 数据库引擎MySQL 5.7版本默认值为DBNodeClassCPU。

举例如下:

  • 数据库引擎MySQL 8.0.1集群版系列中,主节点规格为4核8 GB,其取值范围和默认值分别为4~40和8。

  • 数据库引擎MySQL 8.0.1多主集群(库表)系列中,两个主节点规格为4核8 GB,其取值范围和默认值分别为8~80和16。

  • 数据库引擎MySQL 5.7集群版系列中,主节点规格为4核8 GB,其取值范围和默认值分别为4~40和4。

loose_thread_pool_high_prio_mode

线程池高优先级队列模式。取值:

  • transactions:已开启事务的SQL将被加入高优先级队列,并被赋予thread_pool_high_prio_tickets这个门票,接下来执行的SQL都将被放入高优先级队列,直到门票被耗尽。

  • statements:所有SQL都会加入高优先级队列。

  • none:所有SQL都不加入高优先级队列。

默认值:transactions。

说明

PolarDB MySQL版5.6和5.7版本支持该参数。

loose_thread_pool_high_prio_tickets

高优先级队列的单次门票数。

取值:0~4294967295。

默认值:4294967295。

说明

PolarDB MySQL版5.6和5.7版本支持该参数。

loose_thread_pool_idle_timeout

释放线程池空闲线程的时间阈值,超过此时间,没有服务任何请求的空闲线程将被释放。

取值:0~31536000。

默认值:60。

单位:秒。

说明

PolarDB MySQL版5.6和5.7版本支持该参数。

loose_thread_pool_oversubscribe

每个线程组中允许的活跃线程的数量。

活跃线程是指正在执行SQL语句的线程,但是不包括以下两种情形:

  • SQL语句在等待磁盘I/O。

  • SQL语句在等待事务提交。

取值:1~1000。

默认值:10。

loose_thread_pool_stall_limit

判断线程池进入拥塞状态的时间阈值。

当线程池进入拥塞状态时,系统会创建新的线程来服务SQL。

取值:1~18446744073709551615。

默认值:5。

单位:毫秒。

说明

数据库引擎MySQL 5.6版本默认值为30毫秒。

loose_bypass_thread_pool_ips

配置不受线程池限制的客户端IP地址。即便线程池被占满时,也可以执行SQL来进行一些管理操作。

配置示例:

10.69.96.16,10.69.96.17
说明

PolarDB MySQL版8.0.1.1.19及之后版本支持该参数。

loose_bypass_thread_pool_check_ignore_proxy

通过loose_bypass_thread_pool_ips检测客户端IP地址时,是否忽略通过Proxy连接的客户端IP地址。取值:

  • ON:表示对于通过Proxy连接的客户端IP地址,即便loose_bypass_thread_pool_ips配置了该客户端IP地址,也要受线程池功能的约束。

  • OFF:表示对于通过Proxy连接的客户端IP地址,如果loose_bypass_thread_pool_ips配置了该客户端IP地址,则不受线程池功能的约束。

默认值:ON。

说明

PolarDB MySQL版8.0.1.1.19及之后版本支持该参数。

loose_thread_pool_high_priority_users

配置高优先级别的数据库账号。配置后这些账号的请求将会被放到线程池的高优先级队列中,优先进行处理。

配置示例:

user1, user2
说明
  • PolarDB MySQL版8.0.1.1.19及之后版本支持该参数。

  • 配置该参数后,仅对新建的数据库连接生效。

  • 不建议您配置过多的高优先级账号。

loose_thread_pool_mark_ddl_thread_timeout_sec

配置DDL的线程池超时时间阈值。超过此时间后,将DDL标记为超时状态,系统会创建新的线程来处理请求。

取值:0~864000。

默认值:600。

单位:秒。

说明

PolarDB MySQL版8.0.1.1.19及之后版本支持该参数。

loose_thread_pool_mark_ddl_thread_timeout_immediately

在线程池处于高负载状态,造成低优先级队列发生堆积时,是否立刻将DDL标记为超时状态,此时系统会创建新的线程来处理请求。该参数适用于需要经常批量DDL的业务场景中。取值:

  • ON

  • OFF

默认值:OFF。

说明

PolarDB MySQL版8.0.1.1.19及之后版本支持该参数。

查询Thread Pool状态

您可以通过如下命令查询Thread Pool状态:

select * from information_schema.THREAD_POOL_STATUS;

返回示例如下所示。

mysql> select * from information_schema.THREAD_POOL_STATUS;
+----+--------------+---------------------+----------------------+-------------------+---------------------------+------------------+-----------------+------------------+
| ID | THREAD_COUNT | ACTIVE_THREAD_COUNT | WAITING_THREAD_COUNT | DUMP_THREAD_COUNT | SLOW_THREAD_TIMEOUT_COUNT | CONNECTION_COUNT | LOW_QUEUE_COUNT | HIGH_QUEUE_COUNT |
+----+--------------+---------------------+----------------------+-------------------+---------------------------+------------------+-----------------+------------------+
|  0 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  1 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  2 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  3 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  4 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  5 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  6 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  7 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  8 |            1 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
|  9 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 10 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 11 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 12 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 13 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 14 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 15 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 16 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 17 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 18 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 19 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 20 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 21 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 22 |            2 |                   1 |                    0 |                 0 |                         0 |                1 |               0 |                0 |
| 23 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 24 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 25 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 26 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 27 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 28 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 29 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 30 |            2 |                   0 |                    0 |                 0 |                         0 |                1 |               0 |                0 |
| 31 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 32 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 33 |            2 |                   0 |                    0 |                 0 |                         0 |                1 |               0 |                0 |
| 34 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 35 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 36 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 37 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 38 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 39 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 40 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 41 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 42 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 43 |            1 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 44 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 45 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 46 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 47 |            3 |                   1 |                    0 |                 0 |                         0 |                1 |               0 |                0 |
| 48 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 49 |            3 |                   1 |                    0 |                 0 |                         0 |                1 |               0 |                0 |
| 50 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 51 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 52 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 53 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 54 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 55 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 56 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 57 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 58 |            1 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 59 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 60 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 61 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 62 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
| 63 |            2 |                   0 |                    0 |                 0 |                         0 |                0 |               0 |                0 |
+----+--------------+---------------------+----------------------+-------------------+---------------------------+------------------+-----------------+------------------+
64 rows in set (0.00 sec)

参数说明如下。

参数

说明

ID

线程池ID。

THREAD_COUNT

线程池中的线程数。

ACTIVE_THREAD_COUNT

线程池中的活跃线程数。

WAITING_THREAD_COUNT

线程池中正在等待磁盘I/O、事务提交的线程数。

DUMP_THREAD_COUNT

线程池中DUMP类长连接数量。

SLOW_THREAD_TIMEOUT_COUNT

线程池中被标记超时的线程数。

CONNECTION_COUNT

线程池中已建立的用户连接数。

LOW_QUEUE_COUNT

线程池中低优先级队列中等待的请求数。

HIGH_QUEUE_COUNT

线程池中高优先级队列中等待的请求数。

Sysbench测试

如下是开启线程池和不开启线程池的性能对比。从测试结果可以看出线程池在高并发的情况下有着明显的性能优势。

图 1. OLTP无索引更新测试OLTP无索引更新

图 2. OLTP只写测试OLTP只写

图 3. OLTP只读测试OLTP只读

图 4. OLTP读写测试OLTP读写测试