Nvidia Tesla H200 141G OEM 빅데이터 인공지능 딥러닝GPU

MPN
900-21010-0040-000, 900-21010-0000-000


혁신적인 생성형 AI 가속을 위한 HBM3e 기반의 초고성능 솔루션

Nvidia H200은 Hopper 아키텍처를 기반으로 설계된 차세대 데이터 센터용 GPU로 인공지능 트레이닝과 추론 및 대규모 언어 모델 처리에 최적화되어 있습니다. 세계 최초로 HBM3e 메모리를 탑재하여 이전 세대인 H100 대비 압도적인 메모리 용량과 대역폭을 제공합니다. 이는 복잡한 대규모 데이터 세트 처리를 가속화하고 연산 효율성을 극대화하여 엔터프라이즈 환경의 딥러닝 생산성을 획기적으로 향상시킵니다.

주요기술 및 스펙요약
HBM3e 메모리 기술을 통한 4.8TB/s 대역폭 확보
Transformer Engine 탑재로 생성형 AI 처리 속도 가속
4세대 NVLink 지원으로 GPU 간 초고속 데이터 통신 구현
FP8 연산 지원을 통한 딥러닝 학습 효율 극대화


Description:
Graphics Processor: Hopper GH100
Cores: 16896
TMUs: 528
ROPs: 24
Memory Size: 141 GB
Memory Type: HBM3e
Bus Width: 8192 bit

Graphics Processor
GPU Name: Hopper GH100
GPU Variant: GH100-825-A1
Architecture: Hopper
Foundry: TSMC
Process Size: 4 nm
Transistors: 80,000 million
Density: 98.2M / mm2
Die Size: 814 mm2

Graphics Card
Release Date: Nov 13th, 2023
Generation: Hopper
Predecessor: Tesla H100
Production: Active
Bus Interface: PCIe 5.0 x16

Clock Speeds
Base Clock: 1312 MHz
Boost Clock: 1755 MHz
Memory Clock: 1200 MHz

Memory
Memory Size: 141 GB
Memory Type: HBM3e
Memory Bus: 8192 bit
Bandwidth: 4,800 GB/s

Render Config
Shading Units: 16896
TMUs: 528
ROPs: 24
SM Count: 132
Tensor Cores: 528
L2 Cache: 50 MB

Theoretical Performance
Pixel Rate: 42.12 GPixel/s
Texture Rate: 926.6 GTexel/s
FP16 (half): 1,979 TFLOPS
FP32 (float): 66.91 TFLOPS
FP64 (double): 33.45 TFLOPS

Board Design
Slot Width: Dual-slot
TDP: 700 W
Suggested PSU: 1200 W
Power Connectors: 1x 16-pin