NVIDIA L40 vs AMD Instinct MI300X
我们比较了两个定位专业市场的GPU：48GB显存的 L40 与 192GB显存的 AMD Instinct MI300X 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。
主要差异
NVIDIA L40 的优势
最大睿频提高19% (2490MHz 与 2100MHz)
更低的TDP功耗 (300W 与 750W)
AMD Instinct MI300X 的优势
发布时间晚1年2个月
更大的显存 (192GB 与 48GB)
更大的显存带宽 (5300GB/s 与 864.0GB/s)
多出1280个渲染核心
评分
基准测试
FP32浮点性能
L40
90.52 TFLOPS
AMD Instinct MI300X
+80%
163.4 TFLOPS
基本信息
2022年10月
发布日期
2023年12月
Tesla Ada
产品系列
Instinct
专业
类型
专业
PCIe 4.0 x16
总线接口
PCIe 5.0 x16
时钟速度
735 MHz
基础频率
1000 MHz
2490 MHz
最大睿频
2100 MHz
2250 MHz
显存频率
5200 MHz
显存
48GB
显存容量
192GB
GDDR6
显存类型
HBM3
384bit
显存位宽
8192bit
864.0GB/s
显存带宽
5300GB/s
渲染规格
142
GPU大核数量
-
-
计算单元数
304
18176
流处理器数量
19456
568
纹理单元
880
192
光栅单元
0
568
张量核心
-
142
光追核心
-
128 KB (per SM)
一级缓存
16 KB (per CU)
96 MB
二级缓存
16 MB
-
-
-
理论性能
478.1 GPixel/s
像素填充率
0 MPixel/s
1414 GTexel/s
纹理填充率
1496 GTexel/s
90.52 TFLOPS
FP16性能
1300 TFLOPS
90.52 TFLOPS
FP32性能
163.4 TFLOPS
1414 GFLOPS
FP64性能
81.7 TFLOPS
板卡设计
300W
功耗
750W
700 W
建议电源功率
1000 W
4x DisplayPort 1.4a
输出接口
No outputs
1x 16-pin
电源接口
None
图形处理器
AD102
GPU型号
MI300
AD102-895-A1
GPU规格
-
Ada Lovelace
架构
CDNA 3.0
TSMC
芯片厂
TSMC
4 nm
芯片工艺
5 nm
763亿
晶体管数量
1460亿
608mm²
芯片面积
1017mm²
图形特性
12 Ultimate (12_2)
DirectX
N/A
4.6
OpenGL
N/A
3.0
OpenCL
3.0
1.3
Vulkan
N/A
8.9
CUDA
-
6.6
Shader Model
N/A
