无损上线

延迟注册

微服务提供者实例会在应用启动过程中，进行服务的注册。一旦完成服务注册，就可以被外部服务消费者应用订阅和调用。对于基于Spring框架开发的Java应用而言，注册过程一般发生在Spring上下文刷新完毕之后。如果应用有一些异步初始化逻辑还没有执行完毕，就直接进行服务注册，此时消费者前来调用时很可能会产生请求报错。比如大数据计算服务需要提前从OSS拉取几百兆数据，待数据拉取完成后才能对外提供服务。因此如果应用启动后直接注册服务，会导致流量因资源未就绪而报错。有了延迟注册功能之后，我们可以通过设置一定的延迟时间，将原本的服务注册动作往后推迟。让应用在充分初始化后再注册到注册中心对外提供服务。避免了微服务提供者未准备完毕，就被外部调用，产生调用出错的情况。

小流量预热

很多时候，刚启动的新实例会处于一种“冷机”状态。冷机状态下，需要进行比如连接池的懒加载、缓存预热、热点代码生成等操作，因此这些新实例对请求的处理能力会远远小于运行很久的实例。如果开发与运维人员不对这个过程进行干涉，可能会造成新实例上线这段时间内，系统整体平均RT时间变高。更坏的情况下，还可能会造成服务“夯”住，导致大量请求调用超时、报错的情况。

下图是需要进行资源加载的实例，在尚未完成资源加载的情况下，与资源加载完毕后的两次请求调用时长对比。在资源加载过程中，如果有大量请求到达该实例，可能都会发生阻塞：

小流量预热功能的思路是，在新服务实例刚上线的这段时间里，控制消费者应用对其调用的流量大小，来避免Java应用冷启动时请求处理能力差，系统整体RT变高的问题，并且保护新启动的服务实例不会被大流量击垮。进入该实例的流量会按一定规则随时间不断加大，当达到设置的预热时长时，小流量预热过程结束，实例正常接收流量。

服务注册状态检查

K8s提供了就绪检查机制（Readiness Probe），在进行服务发布时，新实例就绪检测通过后，就会下线旧的实例（具体情况取决于设置的发布策略）。然而K8s无法感知微服务何时就绪，当端口启动时，K8s会认为应用已经就绪。这可能会导致刚启动的服务还未注册到注册中心，就被K8s判定为已经就绪，进而继续推进服务发布的动作，下线正在运行的旧实例。从而引发消费端调用出错，并在调用过程中出现service no provider/instance等异常。

无损上线的服务就绪检查功能，通过Agent的无侵入方式为应用提供一个检测其是否完成注册的HTTP接口，如果未完成注册，则返回500状态码；当应用注册完成后，会返回200状态码。用户将应用的就绪检测配置成该接口后，可以帮助K8s判定应用是否就绪，保障K8s场景下服务发布上线过程中，服务消费者一直有可用的提供者，不会产生无提供者的报错。

前提条件

• 开通MSE微服务治理。

• ACK和ACS微服务应用接入MSE治理中心（Java版）。

注意事项

• 对于Spring Cloud应用，当前仅支持利用Nacos、ZooKeeper以及Eureka这三种类型的注册中心构建的应用进行服务预热。

• Spring Cloud服务预热功能是基于Spring Cloud框架默认的ZoneAwareLoadBalancer、RoundRobinLoadBalancer或RandomLoadBalancer负载均衡器实现的，如果应用本身修改了该配置，会导致服务预热功能失效。

• 服务预热需要提供者、消费者都接入MSE服务治理才能生效。比如网关应用，是通过直接对外暴露 API的方式接收外部流量，因此MSE当前的小流量预热功能对此类应用不生效。

使用方式