NVIDIA Project DIGITS

출처 : NVIDIA BLOG

 

 

당신의 책상 위에 있는 Grace Blackwell AI 슈퍼컴퓨터

 

NVIDIA GB10 Grace Blackwell Superchip으로 구동되는 Project DIGITS는 전력 효율적인 소형 폼 팩터에서 페타플롭의 AI 성능을 제공합니다.

NVIDIA AI 소프트웨어 스택이 사전 설치되고 128GB의 메모리가 제공되므로 개발자는 최대 200B 매개변수의 대규모 AI 모델을 로컬에서 프로토타입화, 미세 조정 및 추론하고 데이터 센터 또는 클라우드에 원활하게 배포할 수 있습니다.

 

 

 

새로운 GB10 슈퍼칩을 탑재한 NVIDIA Project DIGITS가

200B 매개변수 모델을 실행할 수 있는 세계 최소형 AI 슈퍼컴퓨터로 데뷔

 

CES— NVIDIA는 1월 7일 NVIDIA® Project DIGITS를 공개했습니다.

이는 전 세계의 AI 연구자, 데이터 과학자 및 학생들에게 NVIDIA Grace Blackwell 플랫폼의 성능에 대한 액세스를 제공하는 개인용 AI 슈퍼컴퓨터입니다.

Project DIGITS는 새로운 NVIDIA GB10 Grace Blackwell Superchip을 탑재하여 대규모 AI 모델의 프로토타입 제작, 미세 조정 및 실행을 위한페타플롭스의 AI 컴퓨팅 성능을 제공합니다. Project DIGITS를 사용하면 사용자는 자신의 데스크톱 시스템을 사용하여 모델을 개발하고 추론을 실행한 다음, 가속화된 클라우드나 데이터 센터 인프라에 모델을 원활하게 배포할 수 있습니다.

"AI는 모든 산업의 모든 애플리케이션에서 주류가 될 것입니다. Project DIGITS를 통해 Grace Blackwell Superchip은 수백만 명의 개발자에게 제공됩니다."

NVIDIA의 설립자 겸 CEO인 젠슨 황이 말했습니다. "모든 데이터 과학자, AI 연구자 및 학생의 책상에 AI 슈퍼컴퓨터를 놓으면 그들이 참여하고 AI 시대를 형성할 수 있는 힘을 얻게 됩니다.“

 

 

 

GB10 슈퍼칩은 전력 효율적인 AI 성능의 페타플롭을 제공합니다

 

GB10 슈퍼칩은 NVIDIA Grace Blackwell 아키텍처를 기반으로 하는 시스템온칩(SoC)으로, FP4 정밀도로 최대 1페타플롭의 AI 성능을 제공합니다.

GB10은 최신 세대 CUDA® 코어와 5세대 Tensor 코어를 탑재한 NVIDIA Blackwell GPU를 특징으로 하며, NVLink ® -C2C 칩-투-칩 상호 연결을 통해 Arm 아키텍처로 구축된 20개의 전력 효율적인 코어를 포함하는 고성능 NVIDIA Grace™ CPU에 연결됩니다. Arm 기반 SoC 설계 분야의 시장 리더인 MediaTek은 GB10 설계에 협력하여 동급 최고의 전력 효율성, 성능 및 연결성에 기여했습니다.

GB10 Superchip은 Project DIGITS가 표준 전기 콘센트만 사용하여 강력한 성능을 제공할 수 있도록 합니다. 각 Project DIGITS는 128GB의 통합된 코히어런트 메모리와 최대 4TB의 NVMe 스토리지를 제공합니다. 이 슈퍼컴퓨터를 사용하면 개발자는 최대 2,000억 개의 매개변수가 있는 대규모 언어 모델을 실행하여 AI 혁신을 가속화할 수 있습니다. 또한 NVIDIA ConnectX® 네트워킹 을 사용하여 두 대의 Project DIGITS AI 슈퍼컴퓨터를 연결하여 최대 4,050억 개의 매개변수가 있는 모델을 실행할 수 있습니다.

 

 

Grace Blackwell AI 슈퍼컴퓨팅이 손 닿는 곳에

 

Grace Blackwell 아키텍처를 사용하면 기업과 연구자는 Linux 기반 NVIDIA DGX OS를 실행하는 로컬 Project DIGITS 시스템에서 모델을 프로토타입으로 만들고, 세부 조정하고, 테스트한 다음 이를 NVIDIA DGX Cloud ™, 가속화된 클라우드 인스턴스 또는 데이터 센터 인프라에 원활하게 배포할 수 있습니다.

이를 통해 개발자는 Project DIGITS에서 AI의 프로토타입을 제작한 다음 동일한 Grace Blackwell 아키텍처와 NVIDIA AI Enterprise 소프트웨어 플랫폼을 사용하여 클라우드나 데이터 센터 인프라에서 확장할 수 있습니다.

Project DIGITS 사용자는 NVIDIA NGC 카탈로그와 NVIDIA Developer 포털에서 제공되는 소프트웨어 개발 키트, 오케스트레이션 도구, 프레임워크 및 모델을 포함하여 실험 및 프로토타입을 위한 광범위한 NVIDIA AI 소프트웨어 라이브러리에 액세스할 수 있습니다. 개발자는 NVIDIA NeMo ™ 프레임 워크로 모델을 미세 조정하고, NVIDIA RAPIDS ™ 라이브러리로 데이터 과학을 가속화하고, PyTorch, Python 및 Jupyter 노트북과 같은 일반적인 프레임워크를 실행할 수 있습니다.

에이전트 AI 애플리케이션을 구축하기 위해 사용자는 NVIDIA 개발자 프로그램을 통해 연구, 개발 및 테스트에 사용할 수 있는 NVIDIA Blueprints 및 NVIDIA NIM ™ 마이크로서비스를 활용할 수도 있습니다. AI 애플리케이션이 실험에서 프로덕션 환경으로 이동할 준비가 되면 NVIDIA AI Enterprise 라이선스는 엔터프라이즈급 보안, 지원 및 NVIDIA AI 소프트웨어 제품 릴리스를 제공합니다. 

 

 

출시일
 

Project DIGITS는 2025년 5월에 NVIDIA와 파트너사를 통해 출시되며, 가격은 3,000달러입니다.