本文为您提供了服务专属网关在不同规格下的容量阈值及QPS性能参考。因网关是核心链路,推荐您结合两个参数一起,进行选型。通常情况下,其中一个参数符合选型需求,那么另一个参数在同一规格下也是符合选型需求的。对于比较特殊的业务场景,若出现同一规格下,符合容量阈值,不符合QPS性能,或符合QPS性能,不符合容量阈值的情况,那么请提升规格,以保障两个参数均符合业务要求。
容量阈值
以下为不同网关规格下,面向单个网关节点的容量阈值。当网关容量指标处于警戒水位以下时,可以得到完整的SLA保障。对于核心业务,建议将网关容量指标控制在安全水位以下,从而获得更好的稳定性。
安全水位:能够在突发流量增长至双倍的情况下,依然确保网关系统维持高吞吐量和低延迟性能。
警戒水位:当水位达到警戒线以上时,网关的延迟可能会增加,并且在突发流量下可能存在稳定性风险。
对于单节点部署的网关无法提供 SLA 保障,请确保业务部署了多个网关节点。当部署多个节点时,安全水位和警戒水位均是按照每个节点的规格进行累加计算。
网关规格 | 2 Core 4 GiB | 4 Core 8 GiB | 8 Core 16 GiB | 16 Core 32 GiB | |
节点数 | 1 | 1 | 1 | 1 | |
客户端连接数 | 安全水位 | 12000 | 24000 | 48000 | 96000 |
警戒水位 | 24000 | 48000 | 96000 | 192000 | |
HTTPS每秒新建连接 | 安全水位 | 400 | 800 | 1600 | 3200 |
警戒水位 | 800 | 1600 | 3200 | 6400 | |
网络带宽(Gbit/s) | 安全水位 | 1 | 2 | 4 | 8 |
警戒水位 | 1 | 2 | 4 | 8 | |
CPU使用率 | 安全水位 | 30% | 30% | 30% | 30% |
警戒水位 | 60% | 60% | 60% | 60% | |
内存使用率 | 安全水位 | 75% | 75% | 75% | 75% |
警戒水位 | 75% | 75% | 75% | 75% |
QPS性能参考
网关QPS吞吐受多种因素影响,如应答大小、是否开启HTTPS、是否开启gzip等。下表是网关处于30%CPU水位下的QPS悲观值(最差情况下)参考。
HTTPS新建连接会占用较多CPU资源。对于瞬时大量HTTPS并发连接的业务场景,请参考下表中HTTPS短连接的数据评估网关容量。
目前gzip功能仅供白名单用户使用。如有需要,请提交工单申请开通。
网关规格 | 2 Core 4 GiB | 4 Core 8 GiB | 8 Core 16 GiB | 16 Core 32 GiB | |||||||
节点数 | 3 | 5 | 3 | 5 | 3 | 5 | 3 | 5 | |||
连接类型 | 应答字节数(KBytes) | 是否使用HTTPS | 是否使用gzip | CPU处于安全水位(30%)的QPS参考 | |||||||
短连接 | 1 | 否 | 否 | 5200 | 8700 | 10500 | 17500 | 21000 | 35000 | 42000 | 70000 |
是 | 否 | 1600 | 2700 | 3200 | 5500 | 6500 | 11000 | 13000 | 22000 | ||
长连接 | 1 | 否 | 否 | 6500 | 10800 | 13000 | 21700 | 26000 | 43500 | 52000 | 87000 |
是 | 否 | 6000 | 10000 | 12000 | 20000 | 24000 | 40000 | 48000 | 80000 | ||
是 | 是 | 5200 | 8700 | 10500 | 17500 | 21000 | 35000 | 42000 | 70000 | ||
10 | 否 | 否 | 5600 | 9300 | 11200 | 18700 | 22500 | 37500 | 45000 | 75000 | |
是 | 否 | 5300 | 9000 | 10700 | 18000 | 21500 | 36000 | 43000 | 72000 | ||
是 | 是 | 3100 | 5200 | 6200 | 10500 | 12500 | 21000 | 25000 | 42000 |