查看GPU服务器内存利用率和GPU利用率命令：nvidia

运行之前要先确保服务器已经配置好相关环境，然后可以输入命令nvidia-smi查看一下GPU的使用情况，下图输入命令后的结果，主要看内存利用率（第二列）和GPU利用率（第三列），图中因为没有程序在运行，所以GPU的利用率为0%。

如果服务器中有多个GPU，而只想用某一个GPU运行程序，可以设置CUDA_VISIBLE_DEVICES的值等于某个空闲GPU的序号，假设要使用GPU运行test.py，输入如下：

对文件的其他操作即在Linux下的操作，输入相关命令即可