全部產品
Search
文件中心

Platform For AI:附錄:服務專屬網關容量說明

更新時間:Sep 14, 2024

本文為您提供了服務專屬網關在不同規格下的容量閾值及QPS效能參考。因網關是核心鏈路,推薦您結合兩個參數一起,進行選型。通常情況下,其中一個參數符合選型需求,那麼另一個參數在同一規格下也是符合選型需求的。對於比較特殊的業務情境,若出現同一規格下,符合容量閾值,不符合QPS效能,或符合QPS效能,不符合容量閾值的情況,那麼請提升規格,以保障兩個參數均符合業務要求。

容量閾值

以下為不同網關規格下,面向單個網關節點的容量閾值。當網關容量指標處於警戒水位以下時,可以得到完整的SLA保障。對於核心業務,建議將網關容量指標控制在安全水位以下,從而獲得更好的穩定性。

說明
  • 安全水位:能夠在突發流量增長至雙倍的情況下,依然確保網關係統維持高輸送量和低延遲效能。

  • 警戒水位:當水位達到警戒線以上時,網關的延遲可能會增加,並且在突發流量下可能存在穩定性風險。

  • 對於單節點部署的網關無法提供 SLA 保障,請確保業務部署了多個網關節點。當部署多個節點時,安全水位和警戒水位均是按照每個節點的規格進行累加計算。

網關規格

2 Core 4 GiB

4 Core 8 GiB

8 Core 16 GiB

16 Core 32 GiB

節點數

1

1

1

1

用戶端串連數

安全水位

12000

24000

48000

96000

警戒水位

24000

48000

96000

192000

HTTPS每秒建立串連

安全水位

400

800

1600

3200

警戒水位

800

1600

3200

6400

網路頻寬(Gbit/s)

安全水位

1

2

4

8

警戒水位

1

2

4

8

CPU使用率

安全水位

30%

30%

30%

30%

警戒水位

60%

60%

60%

60%

記憶體使用量率

安全水位

75%

75%

75%

75%

警戒水位

75%

75%

75%

75%

QPS效能參考

網關QPS吞吐受多種因素影響,如應答大小、是否開啟HTTPS、是否開啟gzip等。下表是網關處於30%CPU水位下的QPS悲觀值(最差情況下)參考。

說明
  • HTTPS建立串連會佔用較多CPU資源。對於瞬時大量HTTPS並發串連的業務情境,請參考下表中HTTPS短串連的資料評估網關容量。

  • 目前gzip功能僅供白名單使用者使用。如有需要,請提交工單申請開通。

網關規格

2 Core 4 GiB

4 Core 8 GiB

8 Core 16 GiB

16 Core 32 GiB

節點數

3

5

3

5

3

5

3

5

連線類型

應答位元組數(KBytes)

是否使用HTTPS

是否使用gzip

CPU處於安全水位(30%)的QPS參考

短串連

1

5200

8700

10500

17500

21000

35000

42000

70000

1600

2700

3200

5500

6500

11000

13000

22000

長串連

1

6500

10800

13000

21700

26000

43500

52000

87000

6000

10000

12000

20000

24000

40000

48000

80000

5200

8700

10500

17500

21000

35000

42000

70000

10

5600

9300

11200

18700

22500

37500

45000

75000

5300

9000

10700

18000

21500

36000

43000

72000

3100

5200

6200

10500

12500

21000

25000

42000