세계에서 가장 강력한 AI용 컴퓨팅 클러스터 순위 by voronoiapp.com

가벼운 질문부터 진지한 질문까지 스스로 답을 하기도 하고 검색을 해주기도 하고, 요즘은 텍스트 외에도 이미지를 생성하거나 동영상을 만들어주는 등 다양한 방면에서 활용되고 있는 것. 네. 바야흐로 생성AI 전성시대 느낌입니다. 엄밀히는 아직 발전 단계라서 전성시대라고 선언은 성급한 걸 수 있고 AGI가 나올 때까지 혹은 그 뒤에라도 이런 AI 경쟁은 계속될 듯하지만, 아무튼 AI 업계의 변화 속도도 그런 변화를 받아들이는 대중의 움직임도 분주한 요즘인데요. 이런 생성AI는 거저 운영되지 않습니다. 개발을 위해 막대한 자원이 필요한 건 물론 운영을 위해서도 막대한 에너지와 돈의 전쟁이 이어지고 있죠.

 

AI를 돌리기 위해 세계 각국이 운용하는 클러스터

 

Epoch AI의 2025년 6월 데이터를 바탕으로 voronoi가 정리한 이 인포그래픽은 AI 시대 군비 경쟁의 규모를 가늠케 하는데요. 확실한 것보다는 추측한 데이터가 더 많기는 하지만, 세계에서 가장 강력한 AI용 컴퓨팅 클러스터가 무엇인지 한 번 살펴볼까요? 여기 언급된 주요 컴퓨팅 클러스터들은 엔비디아의 H100 칩의 성능을 기반으로 해당 칩이 어느 정도 사용됐을 때의 성능을 가지고 있는지로 규모를 비교하고 있다는 걸 참고하시기 바랍니다. H100이 벤치마크의 바로미터가 되고 있는 셈이죠.

 

Data on AI supercomputers with map of data centers

 

AI의 성능을 개선하고자 할수록 더 많은 더 강력한 컴퓨팅 파워가 필요한 상황에서 가장 강력한 컴퓨팅 클러스터로 꼽힌 건 일론 머스크가 이끄는 xAI의 xAI 콜로서스 멤피스 페이즈 2로 20만 대의 H100 수준의 규모를 자랑합니다. 이어서 메타 AI의 메타 100K와 오픈AI/마이크로소프트의 오픈AI/마이크로소프트 굿이어 애리조나, xAI의 xAI 콜로서스 멤피스 페이즈 1이 H100 10만 대 규모였습니다. 오라클의 오라클 OCI 슈퍼클러스터 H200s는 H100 65,536대 규모, 테슬라의 코텍스 페이즈 1이 H100 50,000대 규모, 미국 에너지부의 로렌스 리버모어 NL 엘 캐피탄 페이즈 2가 H100 44,143대 규모였습니다. 코어위브의 코어위브 H200s는 H100 42,000대 규모, 람다랩스의 람다랩스 H100/H200이 H100 32,000대 규모, 알려지지 않은 중국 시스템이 H100 30,000대 규모로 10위에 이름을 올렸습니다. 

 

그다음으로는 최근 AI 인재를 최소 100억을 넘는 높은 몸값에 끌어가며 초지능연구소를 만든 메타 AI의 메타젠AI 2024a와 메타젠AI 2024b가 각각 H100 24,576대 규모였고, 유로HPC JU/율리히 슈퍼컴퓨팅 센터의 주피터/율리히가 H100 23,536대 규모였습니다. 오라클의 오라클 OCI MI300X가 H100 21,649대 규모, 알려지지 않은 중국 시스템이 H100 20,000대 규모였는데 이런 중국 시스템이 2개 더 있어서 AI 하드웨어 경쟁에서도 중국의 위용을 고스란히 드러내고 있었습니다. 앤드리슨 호로비츠의 앤드리스 호로비츠 옥시전과 아마존의 AWS EC2 P5 울트라클러스터도 H100 20,000대 규모였고요. 넥스젠 클라우드의 넥스젠 클라우드 하이퍼스택 AQ 컴퓨트 슈퍼컴퓨터가 H100 16,384대 규모로 20위로 여기 언급된 목록의 마지막에 이름을 올렸고요.

 

20개 컴퓨팅 클러스터 중 미국이 14개, 중국이 4개, 독일 1개, 노르웨이 1개 등 압도적으로 미국이 앞서고 그런 미국을 중국이 빠르게 추격하는 양상인데요. 유럽은 그나마 이름이라도 올렸지만, 중국을 제외한 아시아는 존재감이 미약한 모습입니다. 참고로 구글 같은 일부 기업은 AI를 위한 하드웨어 규모에 대해 외부에 공개를 하지 않아서 추측이 어려워 리스트에 빠졌다고 하네요. 잘 아시는 것처럼 미국은 AI 경쟁에서도 세계를 호령하고자 하지만, 중국의 기술 굴기 속도가 빨라서 위기감을 느끼고 있을 요즘인데요. 실제로 메타의 초지능연구소 멤버의 절반 이상이 중국계 인력이라고 할 정도로 미국이 중국의 목을 조이려고 할수록 맹렬히 존재감을 높이며 AI 전쟁에 임하는 양상입니다. 이런 치열한 경쟁은 AI가 미래 국가의 국력을 좌우할 거라는 기대 때문일 텐데요. 우리나라 역시 이런 경쟁에 맞서 소버린AI 개발에 국내 각 기업을 독려하고 있는데 저만큼 앞서가는 국가들을 효과적으로 추격할 수 있을지 모르겠네요. 사실 추격도 추격인데 AI를 돌리기 위해 워낙 엄청난 전력과 장비를 식히기 위한 물이 필요한 상황이라 AI 경쟁은 또 다른 문제를 일으키고 있는데요. 이런 문제들이 잘 극복되어 AI가 본 궤도에 오르길 바라면서도... 또 그런 AI에게 일자리를 뺏기거나 나아가 인류의 생존이 맡겨지는 일까지는 피하고 싶다는 묘한 양가감정에 휘둘리는 요즘이 아닐까 싶네요.^^;;

---

xAI Runs the World's Most Powerful Compute Cluster 🤖