【Linux】gpustat监控GPU状态

目录

1、简介

2、使用

nvidia-smi

gpustat -i

3、参考

1、简介

一台服务器毕竟很多人都在用，这个时候查看GPU状态显得尤为重要（查看剩余显存大小，以便自己能否使用这块卡）

2、使用

后来查找发现有2种方式，最开始我用的就是第一种，但是显然不是很好用，最后发现gpustat超级好用，下面分别介绍两种用法

nvidia-smi

nvidia-smi是 Nvidia 显卡命令行管理套件，基于 NVML 库，旨在管理和监控 Nvidia GPU 设备。

下面是 nvidia-smi 命令的输出，其中最重要的两个指标：

显存占用 GPU 利用率 显存占用和 GPU 利用率是两个不一样的东西，显卡是由 GPU 计算单元和显存等组成的，显存和 GPU 的关系有点类似于内存和 CPU 的关系。

gpustat 

推荐一个好用的小工具：gpustat, 直接pip install gpustat即可安装

gpustat 基于nvidia-smi，可以提供更美观简洁的展示，还可以结合 watch 命令，可以动态实时监控 GPU 的使用情况。

示例1 gpustat -i

如果想回到原状态，直接Ctrl c即可

示例2 watch --color -n1 gpustat -cpu

 效果同上

补充知识

提问:CTRL-Z和CTRL-C区别?

• CTRL-Z和CTRL-C都是中断命令,但是他们的作用却不一样.
• CTRL-C是强制中断程序的执行,
• CTRL-Z的是将任务中断,但是此任务并没有结束,他仍然在进程中他只是维持挂起的状态,用户可以使用fg/bg操作继续前台或后台的任务,fg命令重新启动前台被中断的任务,bg命令把被中断的任务放在后台执行.

3、参考

gpustat : Linux下面监控GPU状态