NVIDIA

BN I&C는 인공지능 컴퓨팅 분야의 세계적인 선도기업 NVIDIA의 Elite Partner로
AI/Deep Learning을 주도하고 있습니다.

NVID IA GPU 스펙

다양한 워크로드에 적합한 NVIDIA의 주요 GPU를 한눈에 비교하고 최적의 솔루션을 선택하세요!

항목	H200 NVL	H100 NVL	L40s	L40	L4	RTX 6000 Ada	RTX 5000 Ada	RTX 4500 Ada	RTX 4000 Ada	RTX 4000 SFF Ada
이미지
CUDA 병렬 프로세싱 코어	16,896	14,952	18,176	18,176	7,680	18,176	12,800	7,680	6,144	6,144
NVIDIA 텐서 코어	528	456	568	568	240	568	400	240	192	192
NVIDIA RT 코어	-	-	142	142	60	142	100	60	48	48
GPU 메모리	141GB	94GB	48GB GDDR6 ECC	48GB GDDR6 ECC	24GB GDDR6	48GB GDDR6	32GB GDDR6	24GB GDDR6	20GB GDDR6	20GB GDDR6
메모리 대역폭	4.8TB/s	3.9TB/s	864GB/s	864GB/s	300GB/s	960GB/s	576GB/s	432GB/s	360GB/s	280GB/s
FP64 성능	60 TFLOPS	60 TFLOPS	1,414 GFLOPS	-	489.6 GFLOPS	1,423 GFLOPS	-	-	-	-
FP32 (싱글) 성능	60TOPS	60 TFLOPS	90.52 TF	91.6 TF	30.3 TF	91.06 TFLOPS	-	-	-	-
FP16 성능	1,671 TFLOPS	1,671 TFLOPS	90.52 TF	733 TF	242 TF	91.06 TFLOPS	-	-	-	-
INT8 성능	3,341 TFLOPS	3,341 TFLOPS	-	-	485 TOPs	-	-	-	-	-
최대 전력 소비	Up to 600W	350–400W	700W	350W	250W	700W	250W	210W	130W	70W
그래픽 버스	PCIe 5.0 ×16	PCIe 5.0 ×16	PCIe 4.0 ×16	PCIe 4.0 ×16	PCIe 4.0 ×16	PCIe Gen 4 ×16	PCIe Gen 4 ×16	PCIe Gen 4 ×16	PCIe Gen 4 ×16	PCIe 4세대 ×16
폼 팩터	듀얼 슬롯 PCIe (쿨링식)	듀얼 슬롯 PCIe (쿨링식)	2슬롯	4.4”(H) x 10.5”(L) 듀얼 슬롯	1슬롯	4.4”(H) x 10.5”(L) 듀얼 슬롯	4.4”(H) x 10.5”(L) 듀얼 슬롯	4.4”(H) x 10.5”(L) 듀얼 슬롯	4.4”(H) x 9.5”(L) 싱글 슬롯	2.7”(H) x 6.6”(L) 듀얼 슬롯
vGPU 지원	Include NVAIE (NVIDIA AI Enterprise)	Include NVAIE (NVIDIA AI Enterprise)	vGPU 16, GPU 15	vGPU 16, GPU 15	지원	NVIDIA vPC/vApps, NVIDIA RTX Virtual Workstation	NVIDIA vPC/vApps, NVIDIA RTX Virtual Workstation	NVIDIA vPC/vApps, NVIDIA RTX Virtual Workstation	NVIDIA vPC/vApps, NVIDIA RTX Virtual Workstation	NVIDIA vPC/vApps, NVIDIA RTX Virtual Workstation