U+1F50D
  • 제목
    고성능 안정적 AI를 처리하는 엔비디아 EGX 엣지 AI 플랫폼 해부
  • 조회수
    29
    등록일
    2021.11.05

 

엔비디아 EGX 엣지 AI(EGX AI Edge) 플랫폼은 대형 상용 서버를 위한 EGX A100과 마이크로 엣지 서버를 위한 소형 EGX 젯슨 자비에 NX(EGX Jetson Xavier NX)로 구성되며, 엣지에서 고성능으로 안정적인 인공지능(AI) 처리를 수행하는 것이 특징입니다.

엔비디아 EGX 엣지 AI 플랫폼을 통해, 병원, 상점, 농장, 공장 등은 수십억 개의 엣지 센서에서 대규모 데이터 스트리밍을 실시간으로 처리하고 보호할 수 있을 뿐 아니라, 서버 플릿(fleet)을 원격으로 안전하게 구축, 관리, 업데이트 할 수 있습니다.

EGX A100 통합 가속기와 EGX Jetson Riva NX 마이크로 엣지 서버는 다양한 크기, 비용과 성능 요구를 충족시키기 위해 개발됐습니다. 예를 들어, EGX A100으로 구동되는 서버는 공항에서 수백 대의 카메라를 관리할 수 있는 반면, EGX 젯슨 자비에 NX는 편의점에 배치된 보다 소수의 카메라를 관리하도록 설계됐습니다. 더불어, 엔비디아는 클라우드 네이티브 지원을 EGX 제품군 전반으로 확대하여, 기업들은 최적화된 AI 소프트웨어를 사용해 AI 애플리케이션을 쉽게 구축, 배포할 수 있게 됐습니다.

젠슨 황(Jensen Huang) 엔비디아 창립자 겸 CEO는 “사물인터넷(IoT)과 AI가 융합되면서 이른바 ‘스마트 에브리씽(smart everything) 혁명이 시작됐습니다. 이동통신 업계가 스마트폰을 통해 제공하고 있는  것처럼 다른 산업에서도 지능형 커넥티드 제품과 서비스를 공급할 수 있게 됐습니다. 엔비디아 EGX 엣지 AI 플랫폼은 표준 서버를 작고 안전한 클라우드 네이티브 AI 데이터센터로 변모시킵니다. AI 애플리케이션 프레임워크를 활용해 기업들은 스마트 리테일, 로봇 활용 공장, 자동화된 콜 센터에 이르는 다양한 AI 서비스를 구축할 수 있습니다”고 설명했습니다.

AI는 모든 산업에 혁명을 일으키고 있으며 작업자가 공장에서 기계를 작동하는 방식에서 의사가 환자를 진단하고 치료하는 방법까지 모든 것을 변화시키고 있습니다. 엔비디아의 EGX 엣지 AI 플랫폼은 가속 컴퓨팅, 가속 네트워킹과 보안을 결합하여 차세대 엣지 컴퓨팅의 구현을 앞당기고 있습니다”고 설명했습니다.

 

엔비디아 암페어 아키텍처로 구동되는 EGX A100

 

EGX A100은 엔비디아 암페어(NVIDIA Ampere) 아키텍처 상 최초의 엣지 AI 제품입니다. AI가 점점 엣지로 이동함에 따라, 조직들은 서버에 EGX A100을 포함시켜 엣지 센서에서 방대한 양의 스트리밍 데이터를 실시간으로 처리하고 보호할 수 있습니다.

EGX A100은 또한 엔비디아 암페어 아키텍처의 획기적인 컴퓨팅 성능과 멜라녹스 ConnectX-6 Dx SmartNIC의 가속화된 네트워킹과 중요 보안 기능을 결합하여 표준과 특수 목적의 엣지 서버를 안전한 클라우드 네이티브 AI 슈퍼컴퓨터로 변환시킵니다.

엔비디아의 8세대 GPU 아키텍처인 엔비디아 암페어 아키텍처는 AI 추론, 엣지에서 실행되는 5G 애플리케이션 등 광범위한 컴퓨팅 집약적 워크로드를 위해 획기적으로 향상된 성능을 제공합니다. 이를 통해 EGX A100은 카메라와 기타 사물인터넷(IoT) 센서에서 대용량 스트리밍 데이터를 실시간으로 처리하여 더 빠른 통찰력을 제공하고 비즈니스 효율성을 높일 수 있도록 합니다.

레드햇(Red Hat)의 수석 부사장 겸 CTO(최고기술책임자) 크리스 라잇(Chris Wright)은 “데이터, AI, 그리고 지능형 클라우드 네이티브 애플리케이션은 모든 업계에 걸쳐 엣지 컴퓨팅 환경을 변화시키고 있습니다. 엔비디아의 새로운 EGX A100 통합 가속기는 레드햇 엔터프라이즈 리눅스의 사전 컴파일된 드라이버, 그리고 레드햇 오픈시프트(OpenShift)의 검증된 오퍼레이터와 결합돼 하드웨어의 구축과 관리를 단순화하고, 우리 고객들이 가장 까다로운 AI, 엣지와 5G 워크로드를 처리할 수 있도록 지원합니다”고 말했습니다.

멜라녹스 ConnectX-6 네트워크 카드를 탑재한 EGX A100은 최대 200Gbps의 데이터를 수신하여 이를 AI나 5G 신호 처리를 위해 GPU 메모리로 직접 전송할 수 있습니다. 또한, 통신용으로 설계된 멜라녹스의 TT(Time-Triggered) 전송 기술(5G용 5T)을 도입한 EGX A100은 5G에서 레이턴시에 가장 민감한 사용사례를 처리할 수 있는 클라우드 네이티브 소프트웨어 정의형 가속기입니다. 이를 통해, 상점, 병원, 공장 현장 등 각 지점에서 지능적인 실시간 의사결정을 가능하게 하는 AI와 5G 플랫폼을 제공합니다.

마베니어(Mavenir) 회장 겸 CEO 파딥 콜리(Pardeep Kohli)는 “우리는 고성능 가상 5G RAN과 가속화된 5G 패킷 코어 네트워크를 구축하기 위해 엔비디아와 협력하고 있습니다. 엔비디아와의 협업을 통해 AI, 머신러닝(ML)부터 증강현실(AR)과 가상현실(VR) 애플리케이션에 이르는 광범위한 새로운 GPU 가속 5G 서비스를 제공할 수 있을 것으로 기대됩니다”고 말했습니다.

 

작은 크기로 강력한 성능을 구현하는 EGX 젯슨 자비에 NX

 

EGX 젯슨 자비에 NX는 세계에서 가장 작고 강력한 마이크로 서버와 엣지 AIoT 박스용 AI 슈퍼 컴퓨터로, 현재 생태계 파트너들을 통해 이용할 수 있는 20개 이상의 솔루션이 있습니다. 엔비디아 자비에 SoC의 강력한 기능을 신용카드 크기의 모듈에 담은 것으로, EGX 클라우드 네이티브 소프트웨어 스택을 구동하는 EGX 젯슨 자비에 NX는 여러 고해상도 센서의 스트리밍 데이터를 빠르게 처리합니다.

이 에너지 효율적인 모듈은 15W에서 최대 21TOPS, 10W에서 14TOPS의 성능을 제공합니다. 즉, EGX 젯슨 자비에 NX는 AI 워크로드를 지원하기 위해 성능은 향상시켜야 하지만 크기, 무게, 전력 예산 또는 비용의 제약을 받는 임베디드 엣지 컴퓨팅 디바이스 분야에 새로운 기회를 제공합니다.

마롱 테크놀로지(Malong Technologies)의 공동창립자 겸 CEO 매트 스캇(Matt Scott)은 “엔비디아 젯슨과 엔비디아 EGX는 소매 상점을 진화시켜, 보다 빠르고 안전한 셀프 계산대 경험을 제공하도록 합니다. AI가 가진 힘, 그리고 우리의 RetailAI 제품군을 통해 수십만 개의 제품을 실시간으로 정확하게 인식하여 보다 원활하고 안전한 쇼핑 경험을 창출하고, 이러한 환경을 대규모로 쉽게 구축할 수 있습니다. 우리는 엣지에 더 많은 인텔리전스를 제공함으로써, 고객 만족도를 높이고 소매 시장을 활성화하는 새로운 방법을 찾기 위해 엔비디아의 강력한 제품군을 지속적으로 검토하고 있습니다”고 설명했습니다.

 

EGX 엣지 AI 플랫폼에 최적화된 클라우드 네이티브 소프트웨어

 

EGX 엣지 AI 플랫폼의 클라우드 네이티브 아키텍처를 통해 컨테이너화된 소프트웨어를 실행하여 다양한 GPU 가속 워크로드를 지원할 수 있습니다.

엔비디아 애플리케이션 프레임워크에는 헬스케어용 클라라(Clara), 이동통신사업자용 애리얼(Aerial), 대화형 AI용 Riva, 로보틱스용 Isaac, 스마트시티, 소매, 교통 등을 위한 메트로폴리스(Metropolis)가 포함됩니다. 이들은 함께 또는 개별적으로 사용될 수 있으며 다양한 엣지 사용사례를 위해 활용될 수 있습니다.

또한, 클라우드 네이티브 지원이 엔비디아 EGX 제품군 전체로 확대됨에 따라, 지능형 머신 제조업체와 AI 애플리케이션 개발자들은 로보틱스, 스마트시티, 헬스케어, 산업용 IoT 등을 대상으로 하는 임베디드와 엣지 디바이스에서 고품질의 소프트웨어 정의 기능을 구축, 배포할 수 있게 됐습니다.

 

글로벌 기업들의 EGX 생태계 지원

 

엔비디아 EGX 소프트웨어를 사용하는 기존 엣지 서버는 아토스(Atos)Dell, 후지쯔(Fujitsu), 기가바이트(GIGABYTE), HPE, IBM인스퍼(Inspur), 레노버(Lenovo), 콴타(Quanta)슈퍼마이크로(Supermicro) 같은 글로벌 엔터프라이즈 컴퓨팅 제공업체는 물론, 어드밴테크(Advantech), ADLINK 같은 주요 서버와 IoT 시스템 제조업체를 통해 이용 가능합니다.

더불어, 화이트보드 코디네이터(Whiteboard Coordinator), 딥 비전 AI(Deep Vision AI), 아이언윈(IronYun), 마롱(Malong), 리얼네트웍스(RealNetworks)의 SAFR과 같은 소프트웨어 공급업체들은 이러한 서버를 최적화된 애플리케이션 프레임워크와 함께 사용해 의료, 소매, 제조, 스마트시티 솔루션을 구축하고 배포할 수 있습니다.

 

출처: https://blogs.nvidia.co.kr/2020/05/15/nvidia-egx-edge-ai-platform-brings-real-time-ai-to-manufacturing-retail-telco-healthcare-and-other-industries/

목록