NVIDIA L4 vs AMD Instinct MI300X
我们比较了两个定位专业市场的GPU：24GB显存的 L4 与 192GB显存的 AMD Instinct MI300X 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。
主要差异
NVIDIA L4 的优势
更低的TDP功耗 (72W 与 750W)
AMD Instinct MI300X 的优势
发布时间晚9个月
最大睿频提高3% (2100MHz 与 2040MHz)
更大的显存 (192GB 与 24GB)
更大的显存带宽 (5300GB/s 与 300.1GB/s)
多出12032个渲染核心
评分
基准测试
FP32浮点性能
L4
30.29 TFLOPS
AMD Instinct MI300X
+439%
163.4 TFLOPS
基本信息
2023年3月
发布日期
2023年12月
Tesla Ada(Lxx)
产品系列
Instinct
专业
类型
专业
PCIe 4.0 x16
总线接口
PCIe 5.0 x16
时钟速度
795 MHz
基础频率
1000 MHz
2040 MHz
最大睿频
2100 MHz
1563 MHz
显存频率
5200 MHz
显存
24GB
显存容量
192GB
GDDR6
显存类型
HBM3
192bit
显存位宽
8192bit
300.1GB/s
显存带宽
5300GB/s
渲染规格
60
GPU大核数量
-
-
计算单元数
304
7424
流处理器数量
19456
240
纹理单元
880
80
光栅单元
0
240
张量核心
-
60
光追核心
-
128 KB (per SM)
一级缓存
16 KB (per CU)
48 MB
二级缓存
16 MB
-
-
-
理论性能
163.2 GPixel/s
像素填充率
0 MPixel/s
489.6 GTexel/s
纹理填充率
1496 GTexel/s
30.29 TFLOPS
FP16性能
1300 TFLOPS
30.29 TFLOPS
FP32性能
163.4 TFLOPS
473.3 GFLOPS
FP64性能
81.7 TFLOPS
板卡设计
72W
功耗
750W
250 W
建议电源功率
1000 W
No outputs
输出接口
No outputs
None
电源接口
None
图形处理器
AD104
GPU型号
MI300
AD104-???-A1
GPU规格
-
Ada Lovelace
架构
CDNA 3.0
TSMC
芯片厂
TSMC
5 nm
芯片工艺
5 nm
358亿
晶体管数量
1460亿
294mm²
芯片面积
1017mm²
图形特性
12 Ultimate (12_2)
DirectX
N/A
4.6
OpenGL
N/A
3.0
OpenCL
3.0
1.3
Vulkan
N/A
8.9
CUDA
-
6.8
Shader Model
N/A
