엔비디아 프로젝트 디지트. 지포스 5090보다 싼(?) 초소형 AI 슈퍼컴퓨터

생성AI의 핵심 키워드 중 하나인 언어 모델(Language Model)은 규모를 꾸준히 키워가며 대형 언어모델, 초대형 언어모델 등으로 변화해 왔는데요. 언어모델의 크기를 말할 때 언어 모델이 학습한 매개변수의 크기를 기준으로 00B 규모라고 합니다. 10억 단위로 매개변수의 크기를 말하는 건데 생성AI 시대에 삽과 청바지를 팔아 돈을 벌고 있는 엔비디아(NVIDIA)가 CES 2025에서 발표한 프로젝트 디지트(Project DIGITS)는 세계에서 가장 작은 AI 슈퍼컴퓨터랄 수 있는 제품입니다. 그것도 개인용.

 

책상 위에 올려두고 AI 개발에 활용하면 좋을 AI 슈퍼컴퓨터

무려 200B, 즉 2,000억 개의 매개변수로 학습한 대규모 언어 모델을 평범한 콘센트에서 공급받은 전력 만으로 돌릴 수 있는 모델이거든요. 크기도 작아서 개인용 AI 슈퍼컴퓨터로 포지셔닝된 이 제품은 엔비디아 GB10 그레이스 블랙웰(NVIDIA GB10 Grace Blackwell) 시스템온칩 기반인데요. 엔비디아 블랙웰 GPU와 엔비디아 그레이스 CPU 조합에 128GB 램, 최대 4TB의 SSD 등을 주요 스펙으로 하는데 단독 모델로는 200B, 엔비디아 커넥트X(NVIDIA ConnectX)로 두 대를 연결하면 최대 405B 규모의 매개변수까지 실행할 수 있다고 하더군요.

 

운영체제로는 리눅스 기반의 엔비디아 DGX OS(NVIDIA DGX OS) 기반이며 이 시스템으로 AI 모델을 개발할 수 있도록 엔비다아 NGC 카탈로그와 디벨로퍼 포털 등을 통해 소프트웨어 개발 키트, 프레임워크, 모델 등 AI 소프트웨어 라이브러리에 접근해 활용할 수 있다고 하더군요. 개인용이라고는 하지만, AI를 활용하는 게 아니라 만들어가는 진짜 AI 프로페셔널 개발자를 위한 장비이니 만큼 가격이 3,000달러(435만 원 정도)부터 시작한다고 하는데요. 대중적인 제품일 수는 없지만, 생성AI붐을 올라타고 싶은 개발자들에겐 꽤 흥미로운 옵션이 아닐까 싶네요. 그나저나 지포스 RTX 5090에 비하면 저렴하게 느껴지는 마법이;;;

---

NVIDIA Puts Grace Blackwell on Every Desk and at Every AI Developer’s Fingertips