NVIDIA H100 PCIe 96 GB vs NVIDIA A100 SXM4 40 GB
AI加速卡AI加速卡
我们比较了两个定位的GPU：96GB显存的 H100 PCIe 96 GB 与 40GB显存的 A100 SXM4 40 GB 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。
主要差异
NVIDIA H100 PCIe 96 GB 的优势
发布时间晚2年10个月
最大睿频提高30% (1837MHz 与 1410MHz)
更大的显存 (96GB 与 40GB)
更大的显存带宽 (1681GB/s 与 1555GB/s)
多出9984个渲染核心
NVIDIA A100 SXM4 40 GB 的优势
更低的TDP功耗 (400W 与 700W)
评分
基准测试
FP32浮点性能
H100 PCIe 96 GB
+218%
62.08 TFLOPS
A100 SXM4 40 GB
19.49 TFLOPS
基本信息
2023年3月
发布日期
2020年5月
Tesla Hopper
产品系列
Tesla Ampere
AI加速卡
类型
AI加速卡
PCIe 5.0 x16
总线接口
PCIe 4.0 x16
时钟速度
1665 MHz
基础频率
1095 MHz
1837 MHz
最大睿频
1410 MHz
1313 MHz
显存频率
1215 MHz
显存
96GB
显存容量
40GB
HBM3
显存类型
HBM2e
5120bit
显存位宽
5120bit
1681GB/s
显存带宽
1555GB/s
渲染规格
132
GPU大核数量
108
-
-
-
16896
流处理器数量
6912
528
纹理单元
432
24
光栅单元
160
528
张量核心
432
-
-
-
256 KB (per SM)
一级缓存
192 KB (per SM)
50 MB
二级缓存
40 MB
-
-
-
理论性能
44.09 GPixel/s
像素填充率
225.6 GPixel/s
969.9 GTexel/s
纹理填充率
609.1 GTexel/s
248.3 TFLOPS
FP16性能
77.97 TFLOPS
62.08 TFLOPS
FP32性能
19.49 TFLOPS
31.04 TFLOPS
FP64性能
9.746 TFLOPS
板卡设计
700W
功耗
400W
1100 W
建议电源功率
800 W
No outputs
输出接口
No outputs
8-pin EPS
电源接口
None
图形处理器
GH100
GPU型号
GA100
-
-
-
Hopper
架构
Ampere
TSMC
芯片厂
TSMC
4 nm
芯片工艺
7 nm
800亿
晶体管数量
542亿
814mm²
芯片面积
826mm²
图形特性
N/A
DirectX
N/A
N/A
OpenGL
N/A
3.0
OpenCL
3.0
N/A
Vulkan
N/A
9.0
CUDA
8.0
N/A
Shader Model
N/A
