关于GPU利用率忽高忽低的问题

记录关于gpu的使用心得！ gpu的各状态属性已经有很多帖子都讲的很详细。 主要看两个重要指标：①GPU的显存占用；②GPU的利用率 粗略记一下笔记，以防下次忘了找不到复习资料。 重点来了：有时候GPU利用率忽高忽低，高的时候能达到90%，然后立马又降到十几。我发现主要的原因是虽然模型数据已经加载到了gpu，但是后面有些度量函数做运算的时候，这些计算没有to（device），所以当我把所有能加to（device）的向量、类对象等都加上以后，立马利用率就上了，计算也快了很多。

总结：忽高忽低大概率是除了模型之外，还有些函数的运算过程没有放到GPU，在cpu做了运算，解决办法就是全部to（device）