AI 시대의 네트워킹
고성능, 확장성 및 보안성이 뛰어난 AI 기반 데이터 센터를 위한 차세대 네트워킹
AI 데이터 센터는 검색 증강 생성(RAG), 모델 학습 및 추론을 위해 가속화된 네트워크 성능이 필요합니다.
NVIDIA 네트워킹은 오늘날의 AI 사용 사례에 필요한 최고의 효율성과 가장 낮은 지연 시간 데이터 전송을 보장합니다.
현대 AI를 위한 가속화된 네트워킹
성능
최신 AI 워크로드는 데이터 센터 규모로 작동하며 GPU 서버 간의 빠르고 효율적인 연결에 크게 의존합니다. NVIDIA 가속 네트워킹 솔루션은 차세대 가속 컴퓨팅 및 AI에 필요한 안전하고 견고하며 고성능 인프라를 구축합니다.
보안 및 가시성
데이터에 대한 요구로 인해 네트워크 환경이 점점 더 분산되고 복잡해지고 있으며, 모든 데이터 센터에서 데이터 시각화와 격리가 필수적인 보안 기능이 되고 있습니다. NVIDIA 네트워킹 솔루션은 보안을 강화하고, 데이터 센터 자동화를 단순화하며, 네트워크에 대한 완벽한 가시성을 제공합니다.
스마트 오프로드
InfiniBand 또는 RDMA over Converged Ethernet(RoCE)을 사용하여 애 리케이션을 가속화하거나 NVIDIA BlueField DPU를 통해 주요 워크로드를 분리하는 등 소프트웨어 정의, 하드웨어 가속 솔루션을 사용하면 네트워크 관리가 아닌 애플리케이션에 컴퓨팅 및 스토리지 리소스를 전담할 수 있습니다.
NVIDIA 실리콘 포토닉스
탁월한 성능, 효율성, 복원력을 갖춘 공동 패키지형 광 기반 네트워킹 스위치입니다.
에이전트 AI 시대를 위한 네트워킹 혁신
통합 실리콘 포토닉스를 탑재한 NVIDIA의 공동 패키지 광학(CPO) 스위치는 에이전트 AI 시대를 위한 세계에서 가장 진보된 네트워킹 솔루션입니다. 플러그형 트랜시버를 ASIC과 동일한 패키지의
실리콘 포토닉스로 대체한 NVIDIA CPO 혁신은 기존 네트워크에 비해 3.5배 더 나은 전력 효율성, 10배 더 높은 네트워크 복원력, 1.3배 더 빠른 배포 시간을 제공합니다.
NVIDIA CPO 기반 네트워크는 관리 및 설계를 간소화하고 컴퓨팅 인프라에 더 많은 전력을 공급합니다.
이러한 이점은 백만 GPU AI 팩토리 의 미래에 진입하는 데 필요한 규모를 제공하는 데 중요합니다 .
대규모 인프라를 위한 네트워킹
NVIDIA CPO는 수백만 개의 GPU AI 팩토리로 확장하는 데 필요한 많은 이점을 제공합니다.
전력 소모 감소
NVIDIA CPO 기술은 네트워크 전력을 크게 줄여 플러그형
트랜시버에 비해 전력 효율이 3.5배 더 높습니다.
더 높은 회복력
에이전트형 AI에 필요한 대규모 환경에서 NVIDIA CPO는
플러그형 트랜시버보다 10배 더 높은 복원력을 제공합니다.
더 빠른 배포
NVIDIA CPO는 데이터 센터 네트워킹 설치와 서비스를 간소화
하여 통찰력을 얻는 시간을 1.3배 단축합니다.
초저지연 수면 상태
NVIDIA CPO는 디지털 신호 처리(DSP) 리타이머가 필요하지
않아 네트워크 지연 시간이 줄어듭니다.
낮은 TCO
NVIDIA CPO는 플러그형 트랜시버의 필요성을 없애서
BOM(자재 구성표)을 간소화하고 비용을 절감합니다.
더 쉬운 서비스성
NVIDIA CPO는 플러그형 트랜시버보다 필요한 구성 요소가
적고 설치 및 교체가 훨씬 쉽습니다.
NVIDIA Quantum InfiniBand 플랫폼
과학 컴퓨팅, AI, 클라우드 데이터 센터에 엔드투엔드 고성능 네트워킹을 제공합니다.
NVIDIA Quantum InfiniBand 네트워킹 솔루션
복잡한 워크로드는 고해상도 시뮬레이션, 극한 크기의 데이터 세트 및 고도로 병렬화된
알고리즘의 초고속 처리를 요구합니다. 이러한 요구가 계속 증가함에 따라, 세계 유일의 완전
오프로드 가능한 인네트워크 컴퓨팅 플랫폼인 NVIDIA Quantum InfiniBand는 더 적은 비용과
복잡성으로 더 빠른 발견 시간을 달성하기 위해 성능에서 극적인 도약을 제공합니다.
InfiniBand가 네트워크를 강화하는 방법
네트워크 내 컴퓨팅
NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol (SHARP)™은 집단적 통신 작업의 부담을 스위치 네트워크로 분산시켜 네트워크를 통과하는 데이터 양을 줄이고, MPI(Message Passing Interface) 작업 시간을 단축하며, 데이터 센터의 효율성을 높입니다.
자기치유 네트워크
자체 복구 네트워크 기능을 갖춘 NVIDIA Quantum InfiniBand는 링크 장애를 극복하여 다른 소프트웨어 기반 솔루션보다 5,000배 더 빠르게 네트워크를 복구할 수 있습니다. 이러한 기능은 최신 세대 InfiniBand 스위치에 내장된 인텔리전스를 활용합니다.
서비스 품질
NVIDIA Quantum InfiniBand는 고급 혼잡 제어 및 적응형 라우팅을 포함한 검증된 서비스 품질 기능을 갖춘 유일한 고성능 상호 연결 솔루션으로 탁월한 네트워크 효율성을 제공합니다.
네트워크 토폴로지
NVIDIA Quantum InfiniBand는 중앙 집중식 관리를 제공하며 Fat Tree, Hypercubes, 다차원 Torus, Dragonfly+를 포함한 모든 토폴로지를 지원합니다. 라우팅 알고리즘은 특정 애플리케이션 통신 패턴에 대한 토폴로지를 설계할 때 성능을 최적화합니다.
최고 성능 AI 전용 인프라를 위한 NVIDIA InfiniBand 포트폴리오
InfiniBand 어댑터
NVIDIA® ConnectX® InfiniBand 호스트 채널 어댑터(HCA)는 오늘날의 현대적 워크로드에 필요한 가속, 확장성 및 기능이 풍부한 기술을 제공하기 위해 매우 낮은 지연 시간, 극한의 처리량 및 혁신적인 NVIDIA 인네트워크 컴퓨팅 엔진을 제공합니다
데이터 처리 장치(DPU)
NVIDIA BlueField® DPU는 강력한 컴퓨팅, 고속 네트워킹, 광범위한 프로그래밍 기능을 결합하여 가장 까다로운 워크로드를 위한 소프트웨어 정의, 하드웨어 가속 솔루션을 제공합니다. 가속화된 AI 및 과학적 컴퓨팅에서 클라우드 네이티브 슈퍼컴퓨팅 에 이르기까지 BlueField는 가능한 것을 재정의합니다.
InfiniBand 스위치
InfiniBand 스위치 시스템은 사용 가능한 최고의 성능과 포트 밀도를 제공합니다. NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol(SHARP)™과 같은 혁신적인 기능과 자가 복구 네트워크 기능, 서비스 품질, 향상된 가상 레인 매핑, NVIDIA In-Network Computing 가속 엔진과 같은 고급 관리 기능은 산업, AI 및 과학 애플리케이션에 대한 성능 향상을 제공합니다.
라우터 및 게이트웨이 시스템
InfiniBand 시스템은 InfiniBand 라우터와 InfiniBand to Ethernet 게이트웨이 시스템을 사용하여 가장 높은 확장성과 서브넷 격리를 제공합니다. 후자는 InfiniBand 데이터 센터를 이더넷 인프라에 연결하는 확장 가능하고 효율적인 방법을 활성화하는 데 사용됩니다.
장거리 시스템
NVIDIA MetroX® 장거리 시스템은 원격 InfiniBand 데이터 센터, 스토리지 및 기타 InfiniBand 플랫폼을 원활하게 연결할 수 있습니다.NVIDIA Spectrum 이더넷 플랫폼
호스트에서 스위치까지 완벽한 이더넷 솔루션
클라우드 컴퓨팅, 데이터 스토리지, AI 등을 포함한 광범위한 애플리케이션에서 업계를 선도하는 이더넷 성능, 가용성 및 사용 편의성을 경험하세요. NVIDIA Spectrum™ 이더넷은 Spectrum 스위치,
NVIDIA® ConnectX® NIC, BlueField® DPU 및 SuperNIC, LinkX® 케이블, 네트워킹 소프트웨어를 포함하는 엔드투엔드 플랫폼입니다.
Spectrum SN5600 스위치와 NVIDIA BlueField-3 SuperNIC™을 탑재한 NVIDIA Spectrum-X ™ 네트워킹 플랫폼 은 AI를 위해 구축된 세계 최초의 이더넷 패브릭으로,
기존 이더넷보다 생성적 AI 성능을 1.6배 더 높입니다.
AI를 위한 세계 최초의
NVIDIA Spectrum-X 이더넷 네트워킹 플랫폼
NVIDIA Spectrum-X™ 네트워킹 플랫폼으로 강력한 AI 애플리케이션을 쉽게 프로비저닝하고 관리하세요. NVIDIA Spectrum-4 이더넷 스위치와 NVIDIA® BlueField-3 SuperNIC™의 긴밀한 결합으로 구동되는 Spectrum-X는 AI, 머신 러닝, 자연어 처리 및 다양한 산업 애플리케이션에 최고의 성능을 제공합니다.
대규모 인프라를 위한 네트워킹
NVIDIA CPO는 수백만 개의 GPU AI 팩토리로 확장하는 데 필요한 많은 이점을 제공합니다.
규모에 따른 거의 완벽한 대역폭
매우 낮은 대기 시간
엔드투엔드 스택 최적화
확장 가능한 AI 통신을 위한 고급 RoCE 확장
결정론적 성능 및 성능 격리
오픈 네트워크 운영 체제
: SONiC 및 NVIDIA® Cumulus®
최고 성능 AI 전용 인프라를 위한 NVIDIA InfiniBand 포트폴리오
Spectrum Ethernet 플랫폼 내부에는 무엇이 있나요?
NVIDIA Spectrum Ethernet 스위치 제품군에는 1GbE에서 800GbE에 이르는 포괄적인 스위치 및 소프트웨어 포트폴리오가 포함됩니다. NVIDIA Spectrum 스위치는 NVIDIA GPU를 연결하는 AI 패브릭을 구축하고 엔드투엔드 클라우드 데이터 센터 네트워크를 연결하는 데 이상적입니다. Spectrum 스위치를 NVIDIA Cumulus® Linux 네트워크 운영 체제(NOS), NVIDIA Pure SONiC NOS , NVIDIA NetQ™ 검증 툴셋 및 NVIDIA Air 시뮬레이션 플랫폼과 결합하면 모든 데이터 센터에 필요한 성능과 기능을 제공합니다.
BlueField DPU
NVIDIA BlueField DPU는 현대 데이터 센터를 위한 전례 없는 혁신을 불러일으키며, 복잡한 컴퓨팅 및 AI 워크로드, 가상 머신(VM), 컨테이너, 기업 및 클라우드의 베어 메탈 서버에 광범위한 고급 네트워킹, 스토리지 및 보안 서비스를 제공합니다. 업계를 선도하는 NVIDIA ConnectX 네트워크 어댑터와 다양한 Arm® 코어를 결합하여 BlueField는 NVIDIA DOCA™ 를 통해 완전한 프로그래밍이 가능한 특수 하드웨어 가속 엔진을 제공합니다 .
BlueField SuperNIC
NVIDIA BlueField-3 SuperNIC는 BlueField-3 네트워킹 플랫폼을 기반으로 하는 새로운 종류의 네트워크 가속기로, 하이퍼스케일 AI 워크로드를 슈퍼차징하기 위해 특별히 제작되었습니다. 네트워크 집약적이고 대규모 병렬 컴퓨팅을 위해 설계된 BlueField-3 SuperNIC는 GPU 서버 간에 최대 400Gb/s RoCE 네트워크 연결을 제공하여 최고 AI 워크로드 효율성을 최적화합니다. AI 클라우드 컴퓨팅의 새로운 시대를 여는 BlueField-3 SuperNIC는 테넌트 작업 간에 결정적이고 격리된 성능을 보장하는 동시에 안전한 멀티 테넌트 데이터 센터 환경을 지원합니다.
ConnectX NIC
업계를 선도하는 NVIDIA ConnectX 지능형 네트워크 어댑터 제품군은 가장 광범위하고 가장 진보된 하드웨어 가속 엔진을 제공합니다. 모든 규모의 모든 워크로드를 실행하는 ConnectX는 통신 회사를 위한 클라우드 데이터 센터, 엔터프라이즈 환경, SDN 및 네트워크 기능 가상화(NFV)에 대해 가장 높은 ROI와 가장 낮은 TCO를 제공합니다.