NVIDIA L40 CNX vs AMD Instinct MI300A
我们比较了两个定位专业市场的GPU：24GB显存的 L40 CNX 与 128GB显存的 AMD Instinct MI300A 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。
主要差异
NVIDIA L40 CNX 的优势
最大睿频提高18% (2475MHz 与 2100MHz)
多出3584个渲染核心
更低的TDP功耗 (300W 与 760W)
AMD Instinct MI300A 的优势
发布时间晚1年2个月
更大的显存 (128GB 与 24GB)
更大的显存带宽 (5300GB/s 与 864.0GB/s)
评分
基准测试
FP32浮点性能
L40 CNX
89.97 TFLOPS
AMD Instinct MI300A
+36%
122.6 TFLOPS
基本信息
2022年10月
发布日期
2023年12月
Tesla Ada
产品系列
Instinct
专业
类型
专业
PCIe 4.0 x16
总线接口
PCIe 5.0 x16
时钟速度
1005 MHz
基础频率
1000 MHz
2475 MHz
最大睿频
2100 MHz
2250 MHz
显存频率
5200 MHz
显存
24GB
显存容量
128GB
GDDR6
显存类型
HBM3
384bit
显存位宽
8192bit
864.0GB/s
显存带宽
5300GB/s
渲染规格
142
GPU大核数量
-
-
计算单元数
228
18176
流处理器数量
14592
568
纹理单元
880
192
光栅单元
0
568
张量核心
-
142
光追核心
-
128 KB (per SM)
一级缓存
16 KB (per CU)
48 MB
二级缓存
16 MB
-
-
-
理论性能
475.2 GPixel/s
像素填充率
0 MPixel/s
1406 GTexel/s
纹理填充率
1496 GTexel/s
89.97 TFLOPS
FP16性能
980.6 TFLOPS
89.97 TFLOPS
FP32性能
122.6 TFLOPS
1406 GFLOPS
FP64性能
61.3 TFLOPS
板卡设计
300W
功耗
760W
700 W
建议电源功率
1000 W
1x HDMI 2.1
3x DisplayPort 1.4a
输出接口
No outputs
1x 16-pin
电源接口
None
图形处理器
AD102
GPU型号
MI300
AD102-???-A1
GPU规格
-
Ada Lovelace
架构
CDNA 3.0
TSMC
芯片厂
TSMC
4 nm
芯片工艺
5 nm
763亿
晶体管数量
1460亿
608mm²
芯片面积
1017mm²
图形特性
12 Ultimate (12_2)
DirectX
N/A
4.6
OpenGL
N/A
3.0
OpenCL
3.0
1.3
Vulkan
N/A
8.9
CUDA
-
6.6
Shader Model
N/A
