一文搞懂什么是GPU、什么是CUDA（通俗易懂版）

背景：在20世纪90年代，计算机游戏和多媒体内容的兴起，对于能够快速生成复杂3D图形的硬件需求日益增长，而那时的CPU只能顺序执行指令。

2. 为什么图像图形计算，就非得需要“并行运算“提效呢？

并行计算提效的原因：一个工人一个点一个点喷涂 v.s. 一堆工人同时喷涂。

图形计算与渲染需要计算每个像素点的亮度、颜色等数值，如果一个点一个点顺序执行，那太慢，而并行运算就快很多啦。——GPU 有多个核。

下面这张图更直接：

3. 为何AI训练、AI推理等深度学习任务，也需要高性能运算？为何选GPU？

在AI推理中，有很多重复性的计算，比如大量的加减乘除运算。

在AI深度学习任务中，建模的目标就是：求解目标函数。——而目标函数求解，需要求解出每个特征对应的参数。——比如现在的AI大模型，动不动10亿级别、百亿级别参数量级。

图：目标函数示例

所以，需要提高训练和在线推理性能的东西。——那有个现成的东西：GPU。可以拿来即用。

GPU的应用场景，也由最初的”加速图形渲染“，演变到了现在的”通用计算“场景。

二、什么是CUDA？

好了，了解了前面GPU是什么、GPU的设计初衷、GPU能干嘛？（加速图形计算–通用高性能计算：AI训练&AI推理）；

下面再了解一下，什么是CUDA吧？

——CUDA，是在英伟达Ian Buck（CUDA项目负责人）率领下，于2006年正式推出的全球首款GPU上的通用计算解决方案。可以理解为，它是一个软件平台，里面包含各种库函数，包括：图形库、数学库、深度学习库、runtime库等；个人理解，CUDA它就是实现AI深度学习任务的一个软件平台或框架，类似的还有Pytorch、Tensorflow。

三、除了英伟达的V100、A100、H100等GPU，还有哪些厂家有哪些GPU？ 1. 国外除了英伟达做AI芯片的厂商，还有：

数据来源：chatGLM.

2. 国内做AI算力的厂商，以华为昇腾为主力代表，其它厂家还有：

2024世界人工智能大会亮相的遂原科技（腾讯投资）、地平线寒武纪百度（昆仑芯片）、比特大陆中科曙光海光壁仞科技摩尔线程（GPU芯片“春晓”）、砺算科技（G100）、象帝先（天钧一号）、智绘微（IDM9系列）、芯动力（RPP-R8）等等；

更多国产算力芯片厂商，可详见这篇文章：GPU国产替代逆流而上 盘点九个值得关注的国产GPU产品，或者自行翻一翻历年的《算力行业研究报告》~

四、本文参考资料

1、一文读懂 GPU 的发展历程

2、英伟达为什么这么红：说说GPU计算背后的故事

3、GPU国产替代逆流而上 盘点九个值得关注的国产GPU产品

题图来自Unsplash，基于CC0协议

来源：https://www.top168.com/news/202407/9347.html返回搜狐，查看更多