芯片的算力到底有什么用?算力是怎么评估的?

您所在的位置:网站首页 算力平台 芯片的算力到底有什么用?算力是怎么评估的?

芯片的算力到底有什么用?算力是怎么评估的?

2024-07-10 12:46:55| 来源: 网络整理| 查看: 265

芯片算力这个问题我估计不是一个两个人有,而是大家都很好奇的事情,我觉得我可以斗胆回答一点点。

算力是什么?

这个问题其实很好解释,算力就是芯片解决某一个领域问题时单位时间内所能计算的次数。这句话隐含的重点有两个。

第一是是算力可以用客观的数据去衡量,比如说常见的 GFLOPS 也就是每秒十亿/十亿(109)次的浮点运算) , TFLOPS 则是等于每秒一兆/一万亿(1012)次的浮点运算,PFLOPS(petaFLOPS)等于每秒一千兆/一千万亿(1015)次的浮点运算;

第二则是算力限定了领域,不同类型的芯片有自己侧重的场景,没必要跨领域对比,不同测试方法的结果也不太能直接横向对比。

所以要确定不同精度算力的性能,需通过各自领域内的专用测试程序来测试:

比如说测超算有 Linpack 主要考察平台的双精度浮点算力;测人工智能应用性能的 Resnet-50 更看重的是半精度算力。

而对于手机这样的移动端来说,计算量还会更小一些,行业共识之中可能更常用的会是int8 或者 int16, 例如Intel的OpenVINO和Nvidia的TensorRT推理加速框架,以及谷歌的Coral Edge TPU套件,对神经网络模型量化精度都选择了Int8.

为什么不用 int4 呢,是因为它只能表示 -8~7 的整数,而不是 0~15 的整数,所以得到的结果精度以及范围还是低了一些,对于很多神经网络的应用还是有些捉襟见肘。

你能看到之前 OPPO 发布自研 NPU 马里亚纳 X 的时候,给出的 18TOPS 算力,后边也注明了是基于 int8 得到的。

目前来看的话,在基于 int8 的测试结果之中,马里亚纳 X 还是目前表现第一的,毕竟有的时候一些厂商并不会给出详细的数字,也没有具体的测试方法。

比如说高通在提到自己的 AI 引擎时,就表明了自己用的是 INT8 和 INT16 来衡量,只不过并没有给出 8 Gen1 具体的 TOPS 会是多少,而是仅仅说比上一代提升了 2 倍。

所以如果有人要宣称自己是第一的话,可能还需要给到更多的算力测试细节,或者等等第三方的测试结果,就像是 AI-Benchmark, 或者是 Geekbench ML 也有用到 int8.

不过我觉得你可能更想知道的是,更高的算力是如何为我们带来更好生活的,也就是:

有了高算力之后我们可以用它做些什么?

自动驾驶的车辆为什么需要高算力,是因为它需要非常高效地识别环视摄像头以及各类例如激光雷达这样传感器所采集的信息,这样就能实时感知周围的环境,然后做出决策。

手机为什么需要高算力,是因为影像处理也越来越深入我们的生活,我们需要美颜,需要文字识别,需要场景判断。

现阶段大家对于算力不足的抱怨,主要还是在 AI, 更具体地说是图像处理的范围,因为这是 NPU 最擅长干的事情,所以现在你也能看到不少 SoC 厂商都在宣传自己的芯片也有 NPU, 而且 AI 性能很强,这对于大部分的通用算法确实也都够了。

但是集成就意味着平衡:对于不怎么重视影像的厂商,SoC 给了一个更强 NPU 是没有用的,是徒增成本的,所以 SoC 厂商不会为了某一个厂商的强烈要求针对性的在硬件的某一个部分进行改变。

这对于重视影像的厂商比如 OPPO 来说是无法接受的,它们会觉得主流 SoC 的 NPU 性能还远远不够强大,这也是为什么 Find X5 系列开始首发马里亚纳 X 这一颗自研的独立 NPU 芯片。

光有算力还不够,我们需要大规模应用

人工智能的三驾马车 —— 算法、算力、数据,这三者的关系是相互影响、相互支撑的,它们缺一不可:

有了更强的芯片意味着能提供了硬件的算力基础这样就能支持更复杂的算法实现之前不敢想象的功能而神经网络算法有一个很重要的特性就是需要数据积累

你会发现上边其实构成了一个循环:

算力提升→能运行更强的算法→可以收集更多的信息→需要更强的算法→需要更强的算力→算力提升→能运行更强的算法…… 这就是一个很好的正向循环。

为什么很多自动驾驶的车企卖硬件是不需要花钱,而软件是需要额外付费的,就是因为他们要利用一切可以利用的摄像头来收集尽可能多的信息。

对于手机来说,有个更强的 NPU, 也需要尽可能给更多的产品用上,这样才能均摊成本,收集记录更多信息,反哺算法

目前手机领域最著名的 NPU 之一,肯定就包括 OPPO 的马里亚纳 X, 因此我们有理由相信,它不仅仅只会在顶级旗舰 Find X 系列上搭载,而是会尽可能铺向中高端,如果可以的话,乃至入门的机器也会用上。

到了那个时候,我们就可以期待不仅仅 OPPO 的高端产品能有独特并超出其他竞品的优势,同时中端产品也可以有比采用类似规格 CMOS 和 SoC 的产品更好的表现。



【本文地址】

公司简介

联系我们

今日新闻


点击排行

实验室常用的仪器、试剂和
说到实验室常用到的东西,主要就分为仪器、试剂和耗
不用再找了,全球10大实验
01、赛默飞世尔科技(热电)Thermo Fisher Scientif
三代水柜的量产巅峰T-72坦
作者:寞寒最近,西边闹腾挺大,本来小寞以为忙完这
通风柜跟实验室通风系统有
说到通风柜跟实验室通风,不少人都纠结二者到底是不
集消毒杀菌、烘干收纳为一
厨房是家里细菌较多的地方,潮湿的环境、没有完全密
实验室设备之全钢实验台如
全钢实验台是实验室家具中较为重要的家具之一,很多

推荐新闻


图片新闻

实验室药品柜的特性有哪些
实验室药品柜是实验室家具的重要组成部分之一,主要
小学科学实验中有哪些教学
计算机 计算器 一般 打孔器 打气筒 仪器车 显微镜
实验室各种仪器原理动图讲
1.紫外分光光谱UV分析原理:吸收紫外光能量,引起分
高中化学常见仪器及实验装
1、可加热仪器:2、计量仪器:(1)仪器A的名称:量
微生物操作主要设备和器具
今天盘点一下微生物操作主要设备和器具,别嫌我啰嗦
浅谈通风柜使用基本常识
 众所周知,通风柜功能中最主要的就是排气功能。在

专题文章

    CopyRight 2018-2019 实验室设备网 版权所有 win10的实时保护怎么永久关闭