【深度学习】GPU选型调研！3090依旧是性价比之王

最近算力不够，一些加Transfomer的3D图像分割，现有的显卡显存都带不动，或者是一个实验要跑一周以上时间。所以近期又专门花时间调研了下GPU选型。

现有两张3090显卡，因为是公版，卡外形比较大，dell的服务器只能塞下两张卡。原先设想是做8卡的3090，但咨询了Dell的供应商，说是现在都不太做8卡了，一般只做到4卡，个别型号可以做到6卡。但3090显存只有24G，要体验大batch条件下的3D图像分割计算，这个显存还不够。所以就把目光从消费级显卡投向了专业计算卡。

Nvidia显卡型号看似眼花缭乱，但结合具体使用需求来看，符合的显卡也就那么几款。Nvidia主流的几款GPU型号简介如下表所示。

从表中可以看到，除了A系列和V系列的专业计算卡之外，其余都是消费级显卡。其中TITAN Xp、1080Ti和3060都可以作为入门选手使用，显存不是那么大但作为入门跑跑中小模型还是没问题的。作为进阶的话，2080Ti、A4000、A5000、3080Ti和3090都很合适，尤其是3090，可以算是性价比之王，因为其比较大的显存带宽，虽然单精、半精都弱于A40专业计算卡，但到大多数算法上的实测速度都不差于A40。至于A40，可以视作是扩了显存版本的3090，像笔者目前这样对显存有一定要求的，A40就是一个不错的选择。V100是老一代专业计算卡王，而A100则是新一代专业计算卡王，这类级别的显卡，除了贵，没其他缺点了。

Nvidia RTX 3090

关于更具体的GPU参数信息，可参考这个地址：

https://www.techpowerup.com/gpu-specs/

以下是3090和A40在ResNet50和ViT上性能实测。

3090：

A40：

可见，虽然A40是专业计算卡内存大，并且单精半精都强于3090，但因其显存带宽的劣势，模型实测性能可能还不如3090。

所以，总结起来就是，买显卡尽量买3090！

参考资料：

https://www.autodl.com/docs/gpu_perf/