2

lipeng的个人空间

 3 years ago
source link: https://my.oschina.net/lipengxs/blog/5070867
Go to the source link to view the article. You can view the picture content, updated content and better typesetting reading experience. If the link is broken, please click the button below to view the snapshot at that time.
neoserver,ios ssh client

微服务预热那些事 - lipeng的个人空间 - OSCHINA - 中文开源技术交流社区

随着流量增长,服务的节点越来越多,对服务性能要求也越来越大,在服务启动时经常会发现存在抖动,针对这些服务抖动,就需要采取一些预热措施,下面就简单介绍下系统相关的服务预热、中间件预热、数据库预热等

在《springcloud线上发布超时》系列文章中已经描述了一些微服务需要预热的服务资源,

  • grpc连接

池资源相关预热我这里就不描述了,参考我的发布预热系列文章:springcloud线上发布超时

这里说一下jit,网上有两种方案,

方案一 定制化jdk

将jit过程信息保存到文件中,下次发布时自动加载,成熟方案是阿里的jwarmup,已经集成到阿里的jdk中,有兴趣的可以了解下

方案二 跑测试用例预热

一般都是采用测试用例预热,如果仅仅是jdk预热,可以直接跑几个测试用例循环n次就行,但是如果涉及到中间件预热,这里就可能不满足需求了。 我现在就是采用流量录制以及回放预热,如下图: 在这里插入图片描述

方案三 定制路由策略,通过tag配置来路由

这里的方案就是需要定制化路由策略,刚启动的服务注册时带上一些配置信息,网关或者服务调用段获取到配置后来根据配置来路由,先路由少量流量,慢慢增加直到路由100%,这样可以达到针对jit的预热效果

中间件预热

redis预热

先在很多服务为了提高吞吐量而使用redis,这就会导致服务启动后或者redis数据丢失后,会导致请求都打到db中去,从而导致db压力倍增,这就是常见的redis雪崩。

CDN预热

CDN经常是也承担了入口缓存,那么这里也会需要预热,可以录制生产流量回放来达到预热效果。

mysql预热

mysql重启后十几分钟的性能是非常差的,原因是因为InnoDB有innodb buffer pool,详细可以参考该链接:https://blog.csdn.net/u014236541/article/details/79870670


About Joyk


Aggregate valuable and interesting links.
Joyk means Joy of geeK