如何通过jstack与jmap分析一次线上故障

这期内容当中小编将会给大家带来有关如何通过jstack与jmap分析一次线上故障,文章内容丰富且以专业的角度为大家分析和叙述,阅读完这篇文章希望大家可以有所收获。

下面是线上机器的cpu使用率,可以看到从4月8日开始,随着时间cpu使用率在逐步增高,最终使用率达到100%导致线上服务不可用,后面重启了机器后恢复。

如何通过jstack与jmap分析一次线上故障  jmap 第1张

简单分析下可能出问题的地方,分为5个方向:

1.系统本身代码问题

2.内部下游系统的问题导致的雪崩效应

3.上游系统调用量突增

4.http请求第三方的问题

5.机器本身的问题

1.查看日志,没有发现集中的错误日志,初步排除代码逻辑处理错误。

2.首先联系了内部下游系统观察了他们的监控,发现一起正常。可以排除下游系统故障对我们的影响。

3.查看provider接口的调用量,对比7天没有突增,排除业务方调用量的问题。

4.查看tcp监控,TCP状态正常,可以排除是http请求第三方超时带来的问题。

5.查看机器监控,6台机器cpu都在上升,每个机器情况一样。排除机器故障问题。

  即通过上述方法没有直接定位到问题。

1.重启了6台中问题比较严重的5台机器,先恢复业务。保留一台现场,用来分析问题。

2.查看当前的tomcat线程pid

如何通过jstack与jmap分析一次线上故障  jmap 第2张

3.查看该pid下线程对应的系统占用情况。top -Hp 384

如何通过jstack与jmap分析一次线上故障  jmap 第3张

4.发现pid 4430 4431 4432 4433 线程分别占用了约40%的cpu

5.将这几个pid转为16进制,分别为114e 114f 1150 1151

6.下载当前的java线程栈  sudo -u tomcat jstack -l 384>/1.txt

7.查询5中对应的线程情况,发现都是gc线程导致的

如何通过jstack与jmap分析一次线上故障  jmap 第4张

8.dump java堆数据

sudo -u tomcat jmap -dump:live,format=b,file=/dump201612271310.dat 384

9.使用MAT加载堆文件,可以看到javax.crypto.JceSecurity对象占用了95%的内存空间,初步定位到问题。

MAT下载地址:http://www.eclipse.org/mat/

如何通过jstack与jmap分析一次线上故障  jmap 第5张

如何通过jstack与jmap分析一次线上故障  jmap 第6张

10.查看类的引用树,看到BouncyCastleProvider对象持有过多。即我们代码中对该对象的处理方式是错误的,定位到问题。

我们代码中有一块是这样写的

如何通过jstack与jmap分析一次线上故障  jmap 第7张

这是加解密的功能,每次运行加解密都会new一个BouncyCastleProvider对象,放倒Cipher.getInstance()方法中。

看下Cipher.getInstance()的实现,这是jdk的底层代码实现,追踪到JceSecurity类中

如何通过jstack与jmap分析一次线上故障  jmap 第8张

verifyingProviders每次put后都会remove,verificationResults只会put,不会remove.

如何通过jstack与jmap分析一次线上故障  jmap 第9张

看到verificationResults是一个static的map,即属于JceSecurity类的。

所以每次运行到加解密都会向这个map put一个对象,而这个map属于类的维度,所以不会被GC回收。这就导致了大量的new的对象不被回收。

将有问题的对象置为static,每个类持有一个,不会多次新建。

如何通过jstack与jmap分析一次线上故障  jmap 第10张

遇到线上问题不要慌,首先确认排查问题的思路:

  1. 查看日志

  2. 查看CPU情况

  3. 查看TCP情况

  4. 查看java线程,jstack

  5. 查看java堆,jmap

  6. 通过MAT分析堆文件,寻找无法被回收的对象

上述就是小编为大家分享的如何通过jstack与jmap分析一次线上故障了,如果刚好有类似的疑惑,不妨参照上述分析进行理解。如果想知道更多相关知识,欢迎关注蜗牛博客行业资讯频道。

免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:niceseo99@gmail.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

评论

有免费节点资源,我们会通知你!加入纸飞机订阅群

×
天气预报查看日历分享网页手机扫码留言评论Telegram