NVIDIA H100 SXM5 80 GB vs NVIDIA GeForce RTX 4090
AI加速卡
我们比较了定位的80GB显存 H100 SXM5 80 GB 与 定位桌面平台的24GB显存 GeForce RTX 4090 。您将了解两者在主要规格、基准测试、功耗等信息中哪个GPU具有更好的性能。
主要差异
NVIDIA H100 SXM5 80 GB 的优势
发布时间晚6个月
更大的显存 (80GB 与 24GB)
更大的显存带宽 (1681GB/s 与 1.01TB/s)
多出512个渲染核心
NVIDIA GeForce RTX 4090 的优势
最大睿频提高27% (2520MHz 与 1980MHz)
更低的TDP功耗 (450W 与 700W)
评分
基准测试
FP32浮点性能
H100 SXM5 80 GB
66.91 TFLOPS
GeForce RTX 4090
+23%
82.58 TFLOPS
基本信息
2023年3月
发布日期
2022年9月
Tesla Hopper
产品系列
GeForce 40
AI加速卡
类型
桌面
PCIe 5.0 x16
总线接口
PCIe 4.0 x16
时钟速度
1590 MHz
基础频率
2235 MHz
1980 MHz
最大睿频
2520 MHz
1313 MHz
显存频率
1313 MHz
显存
80GB
显存容量
24GB
HBM3
显存类型
GDDR6X
5120bit
显存位宽
384bit
1681GB/s
显存带宽
1.01TB/s
渲染规格
132
GPU大核数量
128
-
-
-
16896
流处理器数量
16384
528
纹理单元
512
24
光栅单元
176
528
张量核心
512
-
光追核心
128
256 KB (per SM)
一级缓存
128 KB (per SM)
50 MB
二级缓存
72 MB
-
-
-
理论性能
47.52 GPixel/s
像素填充率
443.5 GPixel/s
1045 GTexel/s
纹理填充率
1290 GTexel/s
267.6 TFLOPS
FP16性能
82.58 TFLOPS
66.91 TFLOPS
FP32性能
82.58 TFLOPS
33.45 TFLOPS
FP64性能
1290 GFLOPS
板卡设计
700W
功耗
450W
1100 W
建议电源功率
850 W
No outputs
输出接口
1x HDMI 2.13x DisplayPort 1.4a
8-pin EPS
电源接口
1x 16-pin
图形处理器
GH100
GPU型号
AD102
-
GPU规格
AD102-300-A1
Hopper
架构
Ada Lovelace
TSMC
芯片厂
TSMC
4 nm
芯片工艺
5 nm
800亿
晶体管数量
763亿
814mm²
芯片面积
609mm²
图形特性
N/A
DirectX
12 Ultimate (12_2)
N/A
OpenGL
4.6
3.0
OpenCL
3.0
N/A
Vulkan
1.3
9.0
CUDA
8.9
N/A
Shader Model
6.8
