常见AI芯片算力汇总

1. 什么是算力

算力TOPS（Tera Operations Per Second），1 TOPS代表处理器每秒钟可进行一万亿次（10^12）操作FLOPS（floating-point operations per second），每秒所执行的浮点运算次数。

1 TFLOPS（teraFLOPS）等于每秒一万亿（=10^12）次的浮点运算因浮点运算对性能要求较高，在保证AI精度的同时可将浮点数转为整数进行计算，可大幅降低计算资源的消耗，提高计算性能。

可分为INT8,INT4,INT16,INT32, INT后的数字表示整数的位数。

2. 监控SoC芯片芯片算力

RK3566 0.8TOPS

RK3568 0.8TOPS

HiSillicon Hi3519AV100 4.0TOPS

RK3399Pro 3.0TOPS(INT8)

HiSillicon Hi3559AV100 4.0TOPS

RK3588 6.0TOPS

3.AI芯片芯片算力

瑞芯微RK1808/RK1806

INT8: 3TOPS

寒武纪Cambricon-1M-1K

INT8: 2TOPS

INT16: 1TOPS

INT32:0.25TOPS

寒武纪Cambricon-1M-2K

INT8: 4TOPS

INT16: 2TOPS

INT32:0.5TOPS

寒武纪Cambricon-1M-4K

INT8: 8TOPS

INT16: 4TOPS

INT32:1TOPS

地平线征程® 3/旭日®3:

5TOPS

华为昇腾310

INT8: 16TOPS

FP16: 8TOPS

华为昇腾910

INT8: 640TOPS

FP16: 320 TFLOPS

4. PCIE加速卡/GPU AI卡算力功耗(w)

寒武纪思元270-S4

INT4: 256TOPS

INT8: 128TOPS

INT16: 64TOPS

功耗：70w

寒武纪思元270-F4

INT4: 256TOPS

INT8: 128TOPS

INT16: 64TOPS

功耗：150w

NVIDIA RTX4000

7.1FLOPS

功耗：160w

NVIDIA Tesla T4

8.1FLOPS

INT4: 260TOPS

INT8: 130TOPS

FP16/FP32:65TOPS

功耗：70w

NVIDIA RTX5000

11.2FLOPS

功耗：265w

云天励飞“初芯”加速卡

12Tops 

NVIDIA TITAN RTX

13.6FLOPS

功耗：280w

NVIDIA V100

14FLOPS

功耗：250w