AMD Instinct MI300A vs NVIDIA L40
我们比较了两个定位专业市场的GPU：128GB显存的 AMD Instinct MI300A 与 48GB显存的 L40 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。
主要差异
AMD Instinct MI300A 的优势
发布时间晚1年2个月
更大的显存 (128GB 与 48GB)
更大的显存带宽 (5300GB/s 与 864.0GB/s)
NVIDIA L40 的优势
最大睿频提高19% (2490MHz 与 2100MHz)
多出3584个渲染核心
更低的TDP功耗 (300W 与 760W)
评分
基准测试
FP32浮点性能
AMD Instinct MI300A
+35%
122.6 TFLOPS
L40
90.52 TFLOPS
基本信息
2023年12月
发布日期
2022年10月
Instinct
产品系列
Tesla Ada
专业
类型
专业
PCIe 5.0 x16
总线接口
PCIe 4.0 x16
时钟速度
1000 MHz
基础频率
735 MHz
2100 MHz
最大睿频
2490 MHz
5200 MHz
显存频率
2250 MHz
显存
128GB
显存容量
48GB
HBM3
显存类型
GDDR6
8192bit
显存位宽
384bit
5300GB/s
显存带宽
864.0GB/s
渲染规格
-
GPU大核数量
142
228
计算单元数
-
14592
流处理器数量
18176
880
纹理单元
568
0
光栅单元
192
-
张量核心
568
-
光追核心
142
16 KB (per CU)
一级缓存
128 KB (per SM)
16 MB
二级缓存
96 MB
-
-
-
理论性能
0 MPixel/s
像素填充率
478.1 GPixel/s
1496 GTexel/s
纹理填充率
1414 GTexel/s
980.6 TFLOPS
FP16性能
90.52 TFLOPS
122.6 TFLOPS
FP32性能
90.52 TFLOPS
61.3 TFLOPS
FP64性能
1414 GFLOPS
板卡设计
760W
功耗
300W
1000 W
建议电源功率
700 W
No outputs
输出接口
4x DisplayPort 1.4a
None
电源接口
1x 16-pin
图形处理器
MI300
GPU型号
AD102
-
GPU规格
AD102-895-A1
CDNA 3.0
架构
Ada Lovelace
TSMC
芯片厂
TSMC
5 nm
芯片工艺
4 nm
1460亿
晶体管数量
763亿
1017mm²
芯片面积
608mm²
图形特性
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
-
CUDA
8.9
N/A
Shader Model
6.6
