Container Service for Kubernetes：ACK託管與專有叢集最佳實務匯總

分類

相關文檔

LLM推理

• 在ACK中快速體驗大語言模型

• 使用vLLM部署Qwen模型推理服務

• 使用rtp-llm部署Qwen模型推理服務

• 使用Triton部署Qwen模型推理服務

• 使用TGI部署Qwen模型推理服務

AIGC

• AI鏡像構建及拉取加速方案

• 基於Knative打造生產可用的Stable Diffusion服務

• 使用CPU加速Stable Diffusion XL Turbo的文生圖推理

授權

授權最佳實務

叢集

• ECS選型推薦配置

• 叢集高可用架構推薦配置

• Kubernetes叢集網路規劃

• 大規模ACK Pro叢集使用建議

• 提升ACK專有叢集的etcd儲存容量上限

節點與節點池

• 節點池部署集最佳實務

• 搶佔式執行個體節點池最佳實務

• 使用ContainerOS實現節點極速擴容

• 遷移游離節點至節點池

• 如何選擇Docker運行時、containerd運行時、或者安全沙箱運行時？

• 使用自訂鏡像建立CGroup V2節點

網路

• 最佳化大規模Terway叢集NetworkPolicy的擴充性

• 使用Gateway API訪問服務

• DNS最佳實務

• Nginx Ingress Controller使用建議

應用管理

• 工作負載推薦配置

• AI鏡像構建及拉取加速方案

• 在ACK叢集中部署Jenkins並完成應用構建和部署

• 使用GitLab CI運行GitLab Runner並執行Pipeline

• ACK Serverless彈性低成本CI/CD

Knative

• 查看服務監控警示

• 在Knative上實現日誌採集

• 在Knative中使用ECI資源

• 在Knative中使用HPA

• 基於流量請求數實現服務自動擴縮容

• 通過阿里雲Prometheus監控查看Knative大盤

• 基於Knative打造生產可用的Stable Diffusion服務

儲存

• 使用Deployment建立臨時儲存

• 儲存多可用性區域部署的推薦配置

• Block Storage限速最佳實務

• 雲端硬碟儲存資料安全最佳實務

• 雲端硬碟類型有狀態應用的跨可用性區域遷移

• 使用NVMe雲端硬碟多重掛載及Reservation

• 實現StatefulSet持久化儲存的最佳實務-CSI

• OSS儲存讀寫分離最佳實務

• 通過CNFS自動收集異常退出的JVM轉儲檔案

可觀測性

• 使用ACK Net Exporter定位網路問題

• 使用Prometheus Client監控應用

• 使用Prometheus配置警示規則的最佳實務

• 使用SysOM定位容器記憶體問題

成本套件

使用成本洞察實現成本管理及最佳化

Auto Scaling

• 基於ack-autoscaling-placeholder實現容器秒級伸縮

• 彈性最佳化之自訂鏡像

• 多可用性區域同時快速彈性擴容

• 基於UnitedDeployment實現工作負載的伸縮

• 通過ARMS APM應用監控服務實現HPAAuto Scaling

• 基於GPU指標實現Auto Scaling

服務網格

• 通過ASM管理ACK虛擬節點上的ECI Pod應用

• 通過ASM管理註冊叢集應用

• 使用ASM Serverless網關實現多叢集入口

• 基於多叢集實現跨地區容災和流量負載平衡

• 使用ASM指標實現工作負載的自動Auto Scaling

• 通過ASM入口網關訪問網格內gRPC服務

圖形化應用

• Linux圖形應用最佳實務

• Unity遠程渲染最佳實務