Nvidia Tesla H100 NVL 94G 빅데이터 인공지능 딥러닝GPU

MPN : 900-21010-0000-000


World-Class Acceleration for Generative AI and Large Language Models

Nvidia Tesla H100 NVL은 거대 언어 모델의 추론과 대규모 인공지능 연산을 위해 설계된 압도적인 성능의 데이터 센터 가속기입니다.
최신 Hopper 아키텍처를 기반으로 하며 두 개의 GPU가 고대역폭 NVLink를 통해 단일 유닛처럼 작동하여 최상의 메모리 대역폭을 제공합니다.
기존 세대 대비 비약적으로 향상된 연산 속도와 확장성을 바탕으로 복잡한 딥러닝 훈련 및 빅데이터 분석 환경에서 강력한 퍼포먼스를 유지합니다.


Description:
Graphics Processor: GH100
Cores : 16896
TMUs: 528
ROPs: 192
Memory Size: 94 GB
Memory Type: HBM3
Bus Width: 5120 bit

Graphics Processor
GPU Name : GH100
Architecture : Hopper
Foundry : TSMC
Process Size : 4 nm
Transistors : 80,000 million
Die Size : 814 mm2

Graphics Card
Release Date : Mar 13th, 2023
Generation : Tesla
Bus Interface : PCIe 5.0 x16

Clock Speeds
Base Clock : 1065 MHz
Boost Clock : 1755 MHz
Memory Clock : 1313 MHz

Memory
Memory Size : 94 GB
Memory Type : HBM3
Memory Bus : 5120 bit
Bandwidth : 3,939 GB/s

Render Config
Shading Units : 16896
TMUs : 528
ROPs : 192
SM Count : 132
Tensor Cores : 528
L2 Cache : 50 MB

Theoretical Performance
Pixel Rate : 337.0 GPixel/s
Texture Rate : 926.6 GTexel/s
FP16 (half) : 118.6 TFLOPS
FP32 (float) : 59.30 TFLOPS
FP64 (double) : 29.65 TFLOPS

Board Design
Slot Width : Dual-slot
TDP : 350 W
Outputs : No outputs
Power Connectors : 1x 16-pin