查看GPU占用率以及指定GPU加速程序

GPU占用率查看：

方法一：任务管理器

如图，GPU0和GPU1的占用率如下显示。

方法二：GPU-Z软件

下面两个GPU，上面是GPU0，下面是GPU1

sensors会话框里的GPU Load就是占用率

大家可以查看GPU0和GPU1的使用与否和使用率

方法三：终端查看

在运行中输入cmd，打开终端

输入cd C:\Program Files\NVIDIA Corporation\NVSMI

回车

输入nvidia-smi

输出为

其中GPU下的0和1 指不同GPU，Memory-Usage为占用率

为了实时查看，可以输入nvidia-smi.exe -l 3

这样就可以每3秒刷新一次，实时显示了。

指定GPU运行程序方法：

第一步：

在程序里写出指定GPU（有两种分配方法）：

1、

import os
os.environ["CUDA_VISIBLE_DEVICES"]=‘0’

这样就指定在GPU0下运行程序，如果要指定多个，可以写成os.environ["CUDA_VISIBLE_DEVICES"]=‘0’，‘1’

2、（需得是tensorflow）

import tensorflow as tf

tf.device('/gpu=0')

这样就指定在GPU0下运行程序，如果要指定GPU利用率，就添加如下代码： 

gpu_options = tf.GPUOptions(per_process_gpu_memory_fraction=0.3)

sess = tf.Session(config=tf.ConfigProto(gpu_options=gpu_options))

 意思是在GPU0下以30%利用率运行程序（实际会偏高一点，但会有控制效果）

第二步：

打开新的console，分别在不同console下用不同GPU运行，实现两个程序同时跑。

注意：如果程序不大，也可以在新的console下用同一个GPU运行程序，具体的视GPU占用率而定。