0 背景

开放平台的网关处于ISV(外部第三方服务商)和内部业务之间,在网关层面会调用不同的内部业务方,而内部业务方由不同的业务技术团队提供,不同的业务接口性能有不同,稳定性也不同。因此要屏蔽掉不同业务接口相互影响,以及对开放平台网关的影响。

为了提升网关的稳定性需要从以下两点着手:

http请求异步化。这种方式可以将容器的accept线程池与业务处理线程池隔离,避免业务处理时间过长导致拒绝网络请求。主流的实现主要有:

servlet 3 中的异步servlet,和jetty中 Continuation

NIO,最新的zuul 2 是这种方式。

在这里不多做讨论,后......