借助阿里云在亚洲加速迈向成功
一站式安全合规咨询服务
MLPS 2.0 一站式合规解决方案
依托我们的网络进军中国市场
提升面向互联网应用的性能和安全性
保障您的中国业务安全无忧
通过强大的数据安全框架保护您的数据资产
申请 ICP 备案的流程解读和咨询服务
面向大数据建设、管理及应用的全域解决方案
企业内大数据建设、管理和应用的一站式解决方案
将您的采购和销售置于同一企业级全渠道数字平台上
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
快速搭建在线教育平台
提供域名注册、分析和保护服务
云原生 Kubernetes 容器化应用运行环境
以 Kubernetes 为使用界面的容器服务产品,提供符合容器规范的算力资源
安全的镜像托管服务,支持全生命周期管理
多集群环境下微服务应用流量统一管理
提供任意基础设施上容器集群的统一管控,助您轻松管控分布式云场景
高弹性、高可靠的企业级无服务器 Kubernetes 容器产品
敏捷安全的 Serverless 容器运行服务
为虚拟机和容器提供高可靠性、高性能、低时延的块存储服务
一款海量、安全、低成本、高可靠的云存储服务
可靠、弹性、高性能、多共享的文件存储服务
全托管、可扩展的并行文件系统服务。
全托管的 NoSQL 结构化数据实时存储服务
可抵扣多种存储产品的容量包,兼具灵活性和长期成本优化
让您的应用跨不同可用区资源自动分配访问量
随时绑定和解绑 VPC ECS
云网络公网、跨域流量统一计费
高性价比,可抵扣按流量计费的流量费用
创建云上隔离的网络,在专有环境中运行资源
在 VPC 环境下构建公网流量的出入口
具备网络状态可视化、故障智能诊断能力的自助式网络运维服务。
安全便捷的云上服务专属连接
基于阿里云专有网络的私有 DNS 解析服务
保障在线业务不受大流量 DDoS 攻击影响
系统运维和安全审计管控平台
业务上云的第一个网络安全基础设施
集零信任内网访问、办公数据保护、终端管理等多功能于一体的办公安全管控平台
提供7X24小时安全运维平台
防御常见 Web 攻击,缓解 HTTP 泛洪攻击
实现全站 HTTPS,呈现可信的 WEB 访问
为云上应用提供符合行业标准和密码算法等级的数据加解密、签名验签和数据认证能力
一款发现、分类和保护敏感数据的安全服务
创建、控制和管理您的加密密钥
快速提高应用高可用能力服务
围绕应用和微服务的 PaaS 平台
兼容主流开源微服务生态的一站式平台
多集群环境下微服务应用流量统一管理
Super MySQL 和 PostgreSQL,高度兼容 Oracle 语法
全托管 MySQL、PostgreSQL、SQL Server、MariaDB
兼容 Redis® 的缓存和KV数据库
兼容Apache Cassandra、Apache HBase、Elasticsearch、OpenTSDB 等多种开源接口
文档型数据库,支持副本集和分片架构
100%兼容 Apache HBase 并深度扩展,稳定、易用、低成本的NoSQL数据库。
低成本、高可用、可弹性伸缩的在线时序数据库服务
专为搜索和分析而设计,成本效益达到开源的两倍,采用最新的企业级AI搜索和AI助手功能。
一款兼容PostgreSQL协议的实时交互式分析产品
一种快速、完全托管的 TB/PB 级数据仓库
基于 Flink 为大数据行业提供解决方案
基于Qwen和其他热门模型的一站式生成式AI平台,可构建了解您业务的智能应用程
一站式机器学习平台,满足数据挖掘分析需求
高性能向量检索服务,提供低代码API和高成本效益
帮助您的应用快速构建高质量的个性化推荐服务能力
提供定制化的高品质机器翻译服务
全面的AI计算平台,满足大模型训练等高性能AI计算的算力和性能需求
具备智能会话能力的会话机器人
基于机器学习的智能图像搜索产品
基于阿里云深度学习技术,为用户提供图像分割、视频分割、文字识别等离线SDK能力,支持Android、iOS不同的适用终端。
语音识别、语音合成服务以及自学习平台
一站式智能搜索业务开发平台
助力金融企业快速搭建超低时延、高质量、稳定的行情数据服务
帮助企业快速测算和分析企业的碳排放和产品碳足迹
企业工作流程自动化,全面提高效率
金融级云原生分布式架构的一站式高可用应用研发、运维平台
eKYC 数字远程在线解决方案
可智能检测、大数据驱动的综合性反洗钱 (AML) 解决方案
阿里云APM类监控产品
实时云监控服务,确保应用及服务器平稳运行
为系统运维人员管理云基础架构提供全方位服务的云上自动化运维平台
面向您的云资源的风险检测服务
提升分布式环境下的诊断效率
日志类数据一站式服务,无需开发就能部署
ECS 预留实例
让弹性计算产品的成本和灵活性达到最佳平衡的付费方式。云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势自带IP上云
自带公网 IP 地址上云全球网络互联
端到端的软件定义网络解决方案,可推动跨国企业的业务发展全球应用加速
提升面向互联网应用的性能和安全性全球互联网接入
将IDC网关迁移到云端云原生 AI 套件
加速AI平台构建,提高资源效率和交付速度FinOps
实时分析您的云消耗并实现节约SecOps
实施细粒度安全控制DevOps
快速、安全地最大限度提高您的DevOps优势金融科技云数据库解决方案
利用专为金融科技而设的云原生数据库解决方案游戏行业云数据库解决方案
提供多种成熟架构,解决所有数据问题Oracle 数据库迁移
将 Oracle 数据库顺利迁移到云原生数据库数据库迁移
加速迁移您的数据到阿里云阿里云上的数据湖
实时存储、管理和分析各种规模和类型的数据数码信贷
利用大数据和 AI 降低信贷和黑灰产风险面向企业数据技术的大数据咨询服务
帮助企业实现数据现代化并规划其数字化未来人工智能对话服务
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人EasyDispatch 现场服务管理
为现场服务调度提供实时AI决策支持在线教育
快速搭建在线教育平台窄带高清 (HD) 转码
带宽成本降低高达 30%广电级大型赛事直播
为全球观众实时直播大型赛事,视频播放流畅不卡顿直播电商
快速轻松地搭建一站式直播购物平台用于供应链规划的Alibaba Dchain
构建和管理敏捷、智能且经济高效的供应链云胸牌
针对赛事运营的创新型凭证数字服务数字门店中的云 POS 解决方案
将所有操作整合到一个云 POS 系统中元宇宙
元宇宙是下一代互联网人工智能 (AI) 加速
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速DevOps
快速、安全地最大限度提高您的DevOps优势数据迁移解决方案
加速迁移您的数据到阿里云企业 IT 治理
在阿里云上构建高效可控的云环境基于日志管理的AIOps
登录到带有智能化日志管理解决方案的 AIOps 环境备份与存档
数据备份、数据存档和灾难恢复用阿里云金融服务加快创新
在云端开展业务,提升客户满意度
为全球资本市场提供安全、准确和数字化的客户体验
利用专为金融科技而设的云原生数据库解决方案
利用大数据和 AI 降低信贷和黑灰产风险
建立快速、安全的全球外汇交易平台
新零售时代下,实现传统零售业转型
利用云服务处理流量波动问题,扩展业务运营、降低成本
快速轻松地搭建一站式直播购物平台
面向大数据建设、管理及应用的全域解决方案
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
以数字化媒体旅程为当今的媒体市场准备就绪您的内容
带宽成本降低高达 30%
快速轻松地搭建一站式直播购物平台
为全球观众实时直播大型赛事,视频播放流畅不卡顿
使用阿里云弹性高性能计算 E-HPC 将本地渲染农场连接到云端
构建发现服务,帮助客户找到最合适的内容
保护您的媒体存档安全
通过统一的数据驱动平台提供一致的全生命周期客户服务
在钉钉上打造一个多功能的电信和数字生活平台
在线存储、共享和管理照片与文件
提供全渠道的无缝客户体验
面向中小型企业,为独立软件供应商提供可靠的IT服务
打造最快途径,助力您的新云业务扬帆起航
先进的SD-WAN平台,可实现WAN连接、实时优化并降低WAN成本
通过自动化和流程标准化实现快速事件响应
针对关键网络安全威胁提供集中可见性并进行智能安全分析
提供大容量、可靠且高度安全的企业文件传输
用智能技术数字化体育赛事
基于人工智能的低成本体育广播服务
专业的广播转码及信号分配管理服务
基于云的音视频内容引入、编辑和分发服务
在虚拟场馆中模拟关键运营任务
针对赛事运营的创新型凭证数字服务
智能和交互式赛事指南
轻松管理云端背包单元的绑定直播流
通过数据加强您的营销工作
元宇宙是下一代互联网
利用生成式 AI 加速创新,创造新的业务佳绩
阿里云高性能开源大模型
借助AI轻松解锁和提炼文档中的知识
通过AI驱动的语音转文本服务获取洞察
探索阿里云人工智能和数据智能的所有功能、新优惠和最新产品
该体验中心提供广泛的用例和产品帮助文档,助您开始使用阿里云 AI 产品和浏览您的业务数据。
利用阿里云 GPU 技术,为 AI 驱动型业务以及 AI 模型训练和推理加速
元宇宙是下一代互联网
构建发现服务,帮助客户找到最合适的内容
全渠道内置 AI 驱动、拟人化、多语言对话的聊天机器人
加速迁移您的数据到阿里云
在阿里云上建立一个安全且易扩容的环境,助力高效率且高成本效益的上云旅程
迁移到完全托管的云数据库
将 Oracle 数据库顺利迁移到云原生数据库
自带公网 IP 地址上云
利用阿里云强大的安全工具集,保障业务安全、应用程序安全、数据安全、基础设施安全和帐户安全
保护、备份和还原您的云端数据资产
MLPS 2.0 一站式合规解决方案
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
实现对 CloudOps、DevOps、SecOps、AIOps 和 FinOps 的高效、安全和透明的管理
构建您的原生云环境并高效管理集群
快速、安全地最大限度提高您的DevOps优势
实施细粒度安全控制
提供运维效率和总体系统安全性
实时分析您的云消耗并实现节约
实时存储、管理和分析各种规模和类型的数据
登录到带有智能化日志管理解决方案的 AIOps 环境
帮助企业实现数据现代化并规划其数字化未来
帮助零售商快速规划数字化之旅
将全球知名的 CRM 平台引入中国
在线存储、共享和管理照片与文件
构建、部署和管理高可用、高可靠、高弹性的应用程序
快速、安全地最大限度提高您的DevOps优势
将您的采购和销售置于同一企业级全渠道数字平台上
企业内大数据建设、管理和应用的一站式解决方案
帮助企业简化 IT 架构、实现商业价值、加速数字化转型的步伐
快速高效地将您的业务扩展到中国,同时遵守适用的当地法规
快速搜集、处理、分析联网设备产生的数据
0.0.201
MSE同可用区(Availability Zones)优先是一种负载均衡策略,其核心机制是通过动态识别服务调用端与提供方的可用区属性,优先将请求分发给同一可用区内的服务节点。相较于传统轮询算法,该策略通过减少跨区流量传输,可有效降低网络延迟、提升服务响应速度,同时增强系统容灾能力。本文介绍如何在MSE上配置同可用区优先。
已开通MSE微服务治理。具体操作,请参见开通MSE微服务治理。
已将目标应用及其消费者应用接入MSE治理中心。具体操作,请参见ACK和ACS微服务应用接入MSE治理中心(Java版)和ECS微服务应用接入MSE治理中心。
MSE 同可用区优先支持Dubbo服务和Spring Cloud服务,暂不支持K8s Service。
使用MSE 同可用区优先之前,应设置合理的安全阈值。只有同可用区提供者实例数占该应用总实例数超过设定阈值时,才会按照同可用区规则调用。
可用区:可用区(Availability Zones)是指在同一地域内,电力和网络互相独立的物理区域。例如,华北2(北京)地域支持12个可用区,包括北京 可用区 A 和北京 可用区 B 等。同一可用区内实例之间的网络延时比跨可用区更小。
消费者、提供者:微服务场景下,发起调用的一方称作服务消费者(Consumer),提供服务的一方称作服务提供者(Provider)。更多时候,一个应用既是提供者又是消费者。
RT:请求往返时间,指从客户端发起请求到接收服务端响应所经历的总时间。
实例:等同于口语化表达中“节点”的概念。具体来说,在K8s场景下,应用工作负载下的一个Pod,就是一个应用实例;在ECS场景下,一台ECS上的单个应用进程,就是一个应用实例。
同可用区优先是一种微服务架构下的流量调度策略,通过负载均衡机制优先选择与调用方处于同一可用区的服务提供者实例。在多可用区架构场景下,同可用区优先调用具备诸多优势,包括但不限于:
跨可用区调用变为同可用区调用,整体系统RT时长会降低。
微服务调用会被限制在同可用区内执行,当单个可用区出现故障后,影响面会被局限在可用区内部。
同可用区优先功能不是必须使用的。但如果您希望降低系统整体的请求耗时,并且希望进一步提升系统整体的可用率,推荐您开启该功能。
MSE 微服务治理也提供了同可用区优先的能力。当为某个应用开启同可用区优先功能时:该应用的消费者应用,在对当前应用发起调用时,会优先选择同可用区的实例发起调用。例如,为应用P开启了同可用区优先功能,当C1、C2、C3应用来调用P时,会优先选择本可用区的P应用实例发起调用。
未开启MSE同可用区优先调用,应用的调用模型如下:
开启MSE同可用区优先调用,应用的调用模型如下:
MSE目前提供的同可用区优先功能,是只针对单个提供者应用生效的,即为某个应用开启同可用区优先功能后,该应用的全体消费者在调用该应用时,会优先调用本可用区的实例。
使用MSE同可用区优先功能时,会遇到这样的问题:某个应用开启同可用区优先后,所有消费者都会往本可用区的提供者发起调用,那么本可用区现有的提供者数目是否足够支持整个可用区消费者的请求流量?换句话说,并非每个应用都是严格按照可用区打散且均匀部署的,那么就可能存在应用在某个可用区部署的提供者节点数非常少,那么该应用在这个可用区下的节点就无法支撑起本可用区消费者的流量调用。
例如有这样一个场景,我们的应用在A、 B、C三个可用区的部署的实例数分别是3、3、1。在开启同可用区优先的情况下,每个可用区接收的流量都是 1/3(假设每个可用区的消费者数目都是均衡的),但是 C 可用区只有1个实例,所以 C 可用区的这个实例就需要承受其他可用区实例 3 倍的流量,这可能会带来稳定性风险。
这种情况下,我们就希望,对于C可用区的消费者来说,不要同可用区优先调用本可用区的该应用了。于是MSE同可用区优先提供了安全阈值的设置:应用在开启同可用区优先调用的情况下,如果在某个可用区内部署的实例数占总数比例小于安全阈值,那么该可用区内消费者在调用该应用时,不会采取同可用区优先调用的策略,而是会回退到微服务框架默认的随机或轮询策略。
举例来说,我们的应用在A、B、C 三个可用区部署的实例数分别是2、2、1(实例数分别占比 40%、40%、20%),此时我们为该应用开启同可用区优先,并设置安全阈值为30%,那么C可用区的消费者不会同可用区优先调用,A和B可用区的消费者则正常进行同可用区优先调用。
同可用区优先主要针对的是:按可用区打散部署的应用之间的调用。这里的前提是,您部署资源的环境已经包含了多个可用区,并且应用也按照多可用区进行了打散部署。
如果您应用系统的部署现状中,有应用存在严重的可用区部署不均的情况,请勿使用同可用区优先功能。
如果您的应用都是按照可用区打散部署的,推荐您使用同可用区优先功能。
如果您的应用不是严格按照可用区均匀部署的,也推荐您使用同可用区优先功能,但需要您评估并设置好安全阈值。(评估和设置方式,请参考设置安全阈值)。
如何让应用进行可用区打散部署?
如果您是通过阿里云ACK 方式对应用进行管理和部署,您应该保证您的节点池网络配置中,包含了多个可用区的虚拟交换机,这样可以保证您的工作负载能够部署在不同的可用区的节点中。另外,建议应用按照多可用区打散进行部署,您可以在工作负载中加入拓扑分布约束配置,位于spec > template > spec
中,具体工作负载按可用区打散配置请参见集群高可用架构推荐配置。
topologySpreadConstraints:
- maxSkew: 1
topologyKey: "topology.kubernetes.io/zone"
whenUnsatisfiable: ScheduleAnyway
如果您的应用部署在阿里云 ECS 上,您需要在创建实例时,为ECS 实例选择不同可用区的虚拟交换机。然后在部署应用时,手工将应用的不同实例打散部署到这些ECS 实例上。
登录MSE治理中心控制台,并在顶部菜单栏选择地域。
在左侧导航栏,选择治理中心 > 应用治理,然后单击目标应用的资源量卡片。
在侧导航栏,单击流量治理,然后选择上方同可用区优先页签。
单击配置信息旁边的设置,将开启状态改为开启,输入安全阈值,然后单击确定。
之后,该应用的消费者在对该应用发起调用时,会自动优先选择同可用区内的实例。注意,单击确定后无需重启任何应用即可生效。
安全阈值的作用:当前应用在单个可用区内应用提供者实例占总数比例小于该值时,则该可用区内的消费者调用此应用时,不会进行同可用区优先调用,而是回退成微服务框架默认的随机或轮询调用策略。详情请参见MSE同可用区优先安全阈值介绍。
安全阈值应该根据业务应用部署现状合理设置,核心的落脚点应该是保护实例数较少可用区的实例不被流量击垮。可以参考以下两个场景进行设置:
场景一(常见):应用按照可用区均匀部署,此时不存在某个可用区实例数较少的情况,那么可以直接将安全阈值建议设置为小于可用区数的倒数。例如:应用在A、B、C 三个可用区分别部署 2、2、2 个实例,该应用在每个可用区实际的实例数占比为33.33%,此时安全阈值可以设置成33%。
场景二:应用未按照可用区均匀部署,此时安全阈值的设置需要考虑到较少可用区实际的实例数。例如:应用在A、B、C 三个可用区分别部署 2、2、1 个实例,由于 C 可用区实例数较少,希望C 可用区不按照同可用区优先调用。此时可以设置安全阈值为30%,A 和 B 可用的实例数占比都是40%,可以实现同可用区优先;C 可用区实例数占比为20%,则退化为默认的随机或轮询调用策略。
安全阈值默认值是20%,是一个非常小的数值,更多用于测试环境验证和体验使用。建议您根据当前应用按可用区部署的情况来设置一个合适的数值。
可用区内提供者数目必须严格大于安全阈值时,同可用区优先才会生效,等于安全阈值情况下同可用区优先是不生效的。
比较理想的情况下,提供者、消费者应用应该满足均匀部署,不应该存在应用在某些可用区实例数非常高的情况,否则开启同可用区优先后可能会导致流量负载严重不均的问题。
在进行服务发布时(尤其是基于K8s 滚动更新的场景下),短时间内各个可用区的实例数可能会发生变化。此时某些可用区可能会出现实例数不满足安全阈值的情况,进而可能会出现短时间内跨可用区调用的情况。
同可用区优先只应该用于流量层面的隔离,不应该用于业务层面的隔离,使用时必须保证可以容忍跨可用区调用的情况出现。
安全阈值在生效时,会计算同可用区内可用实例占总结点数的占比是否符合安全阈值。这里计算可用实例数、总实例数时,统计的是已经经过全链路灰度逻辑筛选后的实例。(大多数情况下,业务系统只会在业务发版时使用全链路灰度,可以忽略该事项;如果您的系统将全链路灰度用于常态化的路由筛选,即非发版时期也会使用时,则需要注意该事项)
例如,某个应用在 A、B、C 三个可用区部署了 2、2、1 个节点,其中 A、B 可用区的 2 个节点中,都包含了一个灰度节点。此时,对于 A 可用区的正式版本消费者应用来说,A、B、C 三个可用区的节点数实际上是 1、1、1,如果安全阈值设置为 35%(小于 40%),此时对正式版本消费者而言,A、B 可用区的同可用区优先不生效的。对于A 可用区的灰度版本消费者来说, A、B、C 三个可用区的节点数实际上是 1、1、0,对于灰度消费者而言,同可用区优先是生效的。
同可用区优先提供了一定的观测能力,接入MSE 服务治理后,您可以在同可用区优先页签下,看到当前应用的实例部署的分布情况、以及各可用区流量承载情况:
若应用本身未开启同可用区优先功能,您也可以看到上述内容。
如果您是专业版用户,或您的命名空间是专业版命名空间,则无法看到这些内容。请按照如下方式进行升级:
专业版命名空间升级企业版命名空间,详情请参见升级微服务命名空间至企业版。
在同可用区优先的观测界面中,您可以在整体视角这一栏,看到该应用在每个可用区部署的实例数。如果有应用存在严重的可用区部署不均的情况,会在图中体现出来,推荐您的应用按照可用区打散部署,以提高系统整体的可用性。
另外,当您的应用已经开启同可用区优先,您应该关注是否存在可用区的流量过高或过低,当前各可用区流量承接情况和对应可用区内的部署的节点数是否匹配。比如有可用区节点数很多,但是承接的流量很少,或者有可用区节点数很少,但是承接的流量很多,则需要考虑调整安全阈值,避免因为流量分配不均导致的稳定性风险。
未开启同可用区优先的情况下,微服务调用会采用默认的随机或者轮询策略,这会导致应用有许多跨可用区的服务调用。在下图示例中,该应用未开启同可用区优先功能,可以观测到最近5 分钟的总体平均RT是7.88 ms。
当我们为整条链路上的应用都开启同可用区优先功能后,可以观测到,该应用整体的平均RT时间变为了6.85ms。