0°

面试官:CPU百分百!给你一分钟,怎么排查?有几种方法?

阿里云2000元红包!本站用户参与享受九折优惠!

Part0 遇到了故障怎么办?

在生产上,我们会遇到各种各样的故障,遇到了故障怎么办?

不要慌,只有冷静才是解决故障的利器。

下面以一个例子为例,在生产中碰到了CPU 100%的问题怎么办?

在生产中真的碰到了CPU 100%的问题,再来看这篇文章已经迟了,还是先来模拟演练下吧。
怎么模拟演练?

(1)查找资料,选型排查CPU高负载问题的工具。

(2)安装一个高负载程序或手写个高负载应用部署。

(3)安装、执行分析工具,实战分析,找出故障原因。

(4)思考与总结。

Part1 工具选型

因为现在大部分的企业应用都是java编写的,所以我们本次排查的高负载应用也是针对java的,但是思路其实是相同的,如果也有php、python、go等语言写的程序,无非就是换个工具而已,排查的步骤都是类似的。

而top这个命令一定是Linux上不可动摇的资源监控工具。

以下三类工具从原生的top、jstack到功能强大的Arthas和一键式查找的show-busy-java-threads,它们都各有长处。在合适的环境选择合适的工具才是考验一个IT人员能力的时候。

运用之道,存乎一心。

1.1 原生方法

此方法无需额外安装工具,在没法连接互联网的情况下使用此方法排查效果较好。

top、printf都是Linux原生命令,jstack、jstat是jdk自带命令工具。

很多功能强大的Linux和java诊断工具也是以top、jstack、jstat为基础命令做的封装。

注意:jstack、jstat等命令需要jdk完整安装,linux自带的openJdk一般无此工具,可以在java的bin目录下查看是否有这些命令。

oracle jdk 1.8下载地址:
https://www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html。

1.2 阿里开源:Arthas(阿尔萨斯)

Arthas(阿尔萨斯)是 阿里巴巴开源出来的一个针对 java 的线上诊断工具,功能非常强大。

Arthas的githup官网https://github.com/alibaba/arthas。

Arthas 支持JDK 6+,支持Linux/Mac/Windows,采用命令行交互模式,同时提供丰富的 Tab 自动补全功能,进一步方便进行问题的定位和诊断。

1.3 淘宝开源:show-busy-java-threads

show-busy-java-threads.sh,其作者是淘宝同学【李鼎(哲良) oldratlee】,这个工具是useful-scripts工具集的其中一个工具。

useful-scripts的github网址:https://github.com/oldratlee/useful-scripts。

show-busy-java-threads用于快速排查Java的CPU性能问题(top us值过高),自动查出运行的Java进程中消耗CPU多的线程,并打印出其线程栈,从而确定导致性能问题的方法调用。

注意:此工具的核心还是使用jdk的jstack方法,只是在其上做了封装展示。

Part2 高负载代码创建

查看CPU负载的工具选好了,现在我们需要弄个程序来让CPU达到高负载运行。

以java代码为示例,写一个死循环程序,基本就会导致CPU使用率百分百。

2.1 新建springboot项目

开始动手,新建springboot的maven项目,创建web服务,引入SpringBoot内置web容器,pom.xml关键引用jar包如下:

<!-- 引入容器类 -->
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-boot-starter-web</artifactId>
</dependency>

2.2 创建service:TestWhile

创建service类TestWhile,编写死循环代码。

package com.yao.service;
import org.springframework.stereotype.Service;
import java.util.concurrent.ConcurrentHashMap;
/**
* @author 姚毛毛
* @version V1.0
* @Package com.yao.yaojiaxiaoyuan
* @Description: 死循环demo
* @date 2019/11/19--16:55
*/
@Service
public class TestWhile {
    /* 操作内存对象 */
    ConcurrentHashMap map = new ConcurrentHashMap();
    
    /**
    * 死循环,生产中千万不要这么写,while(true)时一定要有退出条件
    * @param threadName 指定线程名
    */
    private void whileTrue(String threadName) {
    // 不设置退出条件,死循环
    while (true) {
    
    // 在死循环中不断的对map执行put操作,导致内存gc
    for( int i = 0; i <= 100000; i ++) {
    map.put(Thread.currentThread().getName() + i, i);
    } // end for
    
    }// end while
}
    /**
    * 循环size,新建线程,调用whileTrue
    * @param size 线程数
    */
    public void testWhile(int size) {
        // 循环size,创建多线程,并发执行死循环
        for (int i = 0; i < size; i++) {
        
            int finalI = i;
            
            // 新建并启动线程,调用whileTrue方法
            new Thread(() -> {
                whileTrue("姚毛毛-" + finalI);
             }).start();
     
        }// end for
    }//  end testWhile
    
}

2.3 创建Controller:TestWhile

创建rest服务,编写get方法testWhile,调用死循环服务testWhile。

package com.yao.controller;
import com.yao.service.TestWhile;
import org.springframework.beans.factory.annotation.Autowired;
import org.springframework.web.bind.annotation.RequestMapping;
import org.springframework.web.bind.annotation.RequestParam;
import org.springframework.web.bind.annotation.RestController;
@RestController
public class HelloController {
/* 注入服务TestWhile */
@Autowired
TestWhile testWhile;
/**
* testWhile循环size生产线程,调用whileTrue方法
* size有多少,则意味着调用了whileTrue多少次,产生了多少个死循环
* @param size 产生线程任务
* @return 调度成功,返回信息
*/
@RequestMapping("/testWhile")
public String testWhile(@RequestParam int size) {
    testWhile.testWhile(size);
    return "Hello I'm 姚毛毛!";
    }
}

2.4 打包项目,上传测试服务器

application.properties配置如下:
# 设置应用端口
server.port=9999
# 应用访问根目录
server.servlet.context-path=/api

打包我们可以选择idea或maven原生工具。

(1)利用idea开发工具,打开右侧的maven project,使用package打包项目,如图所示:
file

(2)使用maven命令,打开项目根目录,在windows的cmd命令窗口中中输入命令如下:

maven clean package

打包项目为:spring-boot-hello-1.0.jar。
上传服务器,路径:/usr/local/games。

2.5 登录服务器,运行项目

# 访问上传路径
cd /usr/local/games
# 后台运行jar包
java -jar spring-boot-hello-1.0.jar &

注意:请在自用的测试服务器或虚拟机上使用,千万不要在生产机器上运行此项目。

2.6 打开浏览器,访问死循环方法

打开浏览器,地址栏输入

http://【IP】:9999/api/testWhile?size=20

返回“Hello I’m 姚毛毛!”,说明调用成功。

Part 3 实战分析:原生工具

实际上,很多排查工具的本质都是在原生工具上做的扩展和封装。理解了原生工具的用法,对于更多强大的工具为什么能做到那样的效果便也会心中有数了。

也有很多场景中,我们所运维的服务器是在内网环境,需要经过层层堡垒机、跳板机,此时安装额外的排查工具较为困难与耗时,使用原生的工具与方法则是较为合适的选择。

3.1 找到最耗CPU的进程

 命令:top –c,显示进程运行信息列表。

实例:top -c。

交互1:按1,数字1,显示多核CPU信息。

交互2:键入P (大写p),进程按照CPU使用率排序。

如下图所示结果,已经在交互过程中按了数字1及大写P。

file

可以看到红框标处,测试机器的双核CPU使用率都已经快达到100%。

而第一个进程PID是17376的就是我们要找的罪魁祸首了;可以看到进程最后一列,COMMAND注释的进程名:“java -jar spring-boot-hello-1.0.jar”。

3.2 找到最耗CPU的线程

 命令:top -H -p 【PID】,显示一个进程的线程运行信息列表。

实例:top -Hp 17376 ,如下图所示,可以看到多个高耗CPU使用率的线程。

file

3.3 转换线程PID为16进制

 命令:printf “%x\n” 【线程pid】,转换多个线程数字为十六进制,第4步使用时前面加0x。

实例:printf ‘%x\n’ 17378 17379 17412 17426,得到结果43e2、43e3、4404、4412;如下图所示:
file

3.4 查看堆栈,定位线程

 命令:jstack 【进程PID】| grep 【线程转换后十六进制】-A10 , 使用jstack获取进程PID堆栈,利用grep定位线程id,打印后续10行信息。

实例:jstack 17376 | grep ‘0x43e2’ -A10 ,如下图所示:
file

看上图中的“GC task thread#0 (ParallelGC)”,代表垃圾回收线程,该线程会负责进行垃圾回收。

为什么会有两个线程一直在进行垃圾回收,并且占用那么高的CPU使用率呢?

3.5 存储堆栈,批量查看

第4步也可以换个方法查看,可以先将jstack堆栈信息存储起来。

 命令:jstack 【进程PID】> 【文件】

实例:jstack 17376 > yao.dump,存储17376进程的堆栈信息。

再使用cat + grep查找看看后面几个高CPU线程的堆栈信息。

实例:cat -n yao.dump | grep -A10 ‘0x4404’,如下图所示:

file

可以看到线程0x4404【线程17426】产生堆栈信息,直指方法whileTrue。

3.6 GC查看

在第3步时我们看到CPU占用率最高的并不是0x4404,而是0x43e2、0x43e3。但是并没法看到其中是什么类与方法,只有一条GC信息。

是不是死循环导致了GC太频繁,导致CPU使用率居高不下呢?

我们使用jstat看下jvm的GC信息看看。

 命令:jstat -gcutil 【进程PID】【毫秒】【打印次数】

实例:jstat -gcutil 17376 2000 5,查看17376进程的GC信息,每2秒打印一次,共打印5次,如下图所示:
file
可以看到Full GC的次数高达506次,Full GC的持续时间很长,平均每次Full GC耗时达到9秒(4766/506,即GCT/FGC)。

确实验证了我们之前的想法,再返回第4或第5步查看其他几个高CPU占用率线程,找到非GC信息的堆栈,查看具体的代码。

Part4 实战分析:Arthas(阿尔萨斯)

4.1 安装

使用curl下载安装

curl -L https://alibaba.github.io/arthas/install.sh | sh

如图11.8所示:
file

#启动
./as.sh 

注意:如果报错“Error: telnet is not installed. Try to use java -jar arthas-boot.jar”,说明telnet没有安装。

# 安装telnet
yum install telnet -y

telnet安装完成后重新启动。

4.2 启动

(1)启动方法一

重新使用./as.sh启动
file

如上图,在启动后,可以看到报错信息:“Error: no available java process to attach”,意思是没有活动的java进程。

启动我们上面写的java示例再重新看下。

输入启动命令:

Java -jar spring-boot-hello-1.0.jar &

Java进程启动完成后,使用./as.sh重启启动Arthas。

如下图所示,显示了当前运行的java进程,按下1,则开始监控进程15458、jar包spring-boot-hello-1.0.jar。

file

关闭此java进程,我们再来一遍。

# 关闭15458 进程
Kill -9 15458
# 重新启动java示例
Java -jar spring-boot-hello-1.0.jar &
# 启动Arthas
./as.sh
# 按1进入java进程,此时java进程PID已经变成17376
1

进入阿尔萨斯完成,如下图,可以看到登录路径已经变成了[arthas@17376]$,可以输入dashboard,进入监控页面了。

file

(2)启动方法二
首先top -c查看哪个进程有问题,输出结果如下图:

file

再使用./as.sh 【PID】命令监控线程,实例命令如下:

# 打开Arthas,监控17376进程
./as.sh 17376

4.3 监控查看

已经进入Arthas操作界面,输入dashboard,回车后将看到线程及堆栈信息,如图所示,arthas已经将cpu高使用率的线程给安排上了。

file

当然,Arthas的dashboard显示了非常丰富的资源监控信息,不只是线程运行信息,还有堆栈使用、GC等信息。

4.4 thread【ID】查看线程

ctrl + c 退出dashboard界面,输入thread 32查看线程信息,如下图所示:

图14 Arthas的thread【ID】命令结果

可以看到是TestWhile类中的whileTrue方法中的put方法导致cpu使用率升高。

4.5 jad反编译

使用Arthas自带的反编译方法jad,输入命令:

jad com.yao.service.TestWhile

可以反编译java的class查看问题函数的具体代码,如下图所示:

file

4.6 退出arthas

最后,既然问题已经找到,那就退出Arthas吧。输入命令:quit,如下图所示:

file

4.7 Arthas其他命令

Arthas还有些常用及好用的命令,命令如下:
help——查看命令帮助信息
cls——清空当前屏幕区域
session——查看当前会话的信息
reset——重置增强类,将被 Arthas 增强过的类全部还原,Arthas 服务端关闭时会重置所有增强过的类
version——输出当前目标 Java 进程所加载的 Arthas 版本号
history——打印命令历史
quit——退出当前 Arthas 客户端,其他 Arthas 客户端不受影响
stop——和shutdown命令一致
shutdown——关闭 Arthas 服务端,所有 Arthas 客户端全部退出
keymap——Arthas快捷键列表及自定义快捷键
其他功能和具体使用教程,可以看这里:Arthas的进阶命令(https://alibaba.github.io/arthas/advanced-use.html)。

Part5 实战分析:show-busy-java-threads(java繁忙线程查找工具)

5.1 方法1——快速下载 & 安装

# 快速安装
source <(curl -fsSL https://raw.githubusercontent.com/oldratlee/useful-scripts/master/test-cases/self-installer.sh)

5.2 方法2——下载后赋权

# 下载到当前目录下
wget --no-check-certificate https://raw.github.com/oldratlee/useful-scripts/release/show-busy-java-threads
# 赋权
chmod +x show-busy-java-threads

5.3 命令执行定位

以上两种方法都可以下载安装,安装完成后,就可以直接执行了。

show-busy-java-threads

如下图所示,找到了CPU使用率前5高的线程,查找非常迅速。

file

从前两个线程可以看出,与使用原生工具(jstack)看到的一样,都是频繁gc导致的高cpu使用率。

而这gc线程出现的主要原因,则是后面几个高CPU线程中的方法导致的。

与上面两类工具一样,既然已经定位到问题方法,那就修改下程序吧。

5.4 其他命令

与Arthas一样,show-busy-java-threads也有一些其他很好用的增强命令:

show-busy-java-threads --help

查看show-busy-java-threads常用命令:

show-busy-java-threads
从所有的 Java进程中找出最消耗CPU的线程(缺省5个),打印出其线程栈。
show-busy-java-threads -c 3
-c 3:3为n,指定显示最耗cpu使用率前3的线程。
show-busy-java-threads -c 3 -p 17376
展示进程17376耗费CPU组多的3个线程;
-p 17376 :17376为进程PID,-p参数指定进程PID。
show-busy-java-threads -s 【指定jstack命令的全路径】
对于sudo方式的运行,JAVA_HOME环境变量不能传递给root,
而root用户往往没有配置JAVA_HOME且不方便配置,
显式指定jstack命令的路径就反而显得更方便了
show-busy-java-threads -a yao.log
将输出结果导入到指定文件yao.log中
show-busy-java-threads 3 5
每5秒执行一次,一共执行3次; 缺省执行一次,缺省间隔是3秒。

5.5 注意事项

如果报没有权限(可能是无权限执行jstack),需要加sudo来执行:

# root权限执行 show-busy-java-threads
sudo show-busy-java-threads.sh

Part6 小结

学习完了三类工具的排查实战后,我们现在来总结下,怎么去排查问题的?

(1)查看CPU负载过高进程。

(2)查看进程中负载高的线程。

(3)获取进程中的堆栈信息。

(4)获取堆栈中对应的线程信息,找到里面的问题方法。

在排查过程中我们不只使用了原生工具,还使用了增强工具Arthas与show-busy-java-threads,大大简化了我们排查的步骤。

再仔细想一想,增强工具其实无非就是在原生工具的基础上,将这些方法与步骤做了一些自动化处理是不是?

如果我们自己用shell脚本去写一个自动监控程序,是不是也可以去借鉴借鉴呢?

祝大家在遇到相似问题时,可以做到手中有刀、心中有谱,稳如老狗、不忙不慌。

最后,若无法按照Part2的代码变异出死循环jar包,可关注公众号,留言hello,得到名为srping-boot-hello的jar包链接地址。


欢迎关注我的公众号:姚毛毛的博客

这里有我的编程生涯感悟与总结,有Java、Linux、Oracle、mysql的相关技术,有工作中进行的架构设计实践和读书理论,有JVM、Linux、数据库的性能调优,有……

有技术,有情怀,有温度

欢迎关注我:姚毛毛& 妖生

公众号

https://www.cnblogs.com/yaomaomao/p/11956609.html

「点点赞赏,手留余香」

    还没有人赞赏,快来当第一个赞赏的人吧!
0 条回复 A 作者 M 管理员
    所有的伟大,都源于一个勇敢的开始!
欢迎您,新朋友,感谢参与互动!欢迎您 {{author}},您在本站有{{commentsCount}}条评论