2024년 빅테크들이 AI 데이터센터에 투자한 돈 by voronoiapp.com

생성AI의 붐과 함께 주목받은 게 생성AI를 돌리기 위해 엄청난 자원이 들어간다는 사실이었습니다. 대규모 장비를 돌리기 위해 사용되는 전기는 물론 장비의 냉각을 위해 소비하는 물의 양도 엄청나고, 생성AI를 학습시키기 위해 들어가는 훈련 비용도 적지 않다는 것이 알려졌는데요. 경쟁적으로 생성AI들이 등장하고 고도화되면서 이런 비용의 크기 역시 쭉쭉 높아져 갔죠.

 

AI 데이터센터에 빅테크가 쏟아부은 막대한 비용

voronoi가 JP Morgan이 진행한 리서치의 결과를 바탕으로 정리한 이 인포그래픽에는 생성AI 시대를 맞아 치열한 경쟁을 이어가고 있는 글로벌 빅테크 기업 마이크로소프트, 메타, 구글, 아마존이 AI 데이터센터를 위해 지난 2024년 1월부터 8월까지 지출한 비용의 크기를 비교하고 있습니다.

 

챗GPT를 만든 오픈AI와 합종연횡을 펼치며 협력과 견제를 이어가고 있는 마이크로소프트(Microsoft)의 비용 규모가 가장 컸는데요. GPU를 비롯한 칩 구매에만 200억 달러(29조 5,360억 원 정도), 기타 인프라에 200억 달러(29조 5,360억 원 정도)를 투입해 인프라 관련으로는 400억 달러를 투자(59조 720억 원 정도)했고 훈련과 R&D에 30억 달러(4조 4,304억 원 정도), 추론에만 30억 달러(4조 4,304억 원 정도)를 사용하는 등 운영에만 60억 달러(8조 8,608억 원 정도)를 투자하는 등 경쟁사를 압도하는 물량전을 펼쳤습니다.

제미나이를 개발하며 오픈AI와 경쟁 중인 구글의 경우 같은 기간 GPU를 비롯한 칩 구매에 140억 달러(20조 6,752억 원 정도), 기타 인프라에 150억 달러(22조 1,520억 원 정도)를 투입해 인프라 관련으로는 290억 달러(42조 8,272억 원 정도)를 투자했고 훈련과 R&D에 30억 달러(4조 4,304억 원 정도), 추론에 10억 달러(1조 4,768억 원 정도)를 사용해 운영에 40억 달러(5조 9,072억 원 정도)를 투자했습니다.

오픈형 생성AI 라마를 개발한 또 다른 경쟁자 메타(Meta)는 GPU를 비롯한 칩 구매에 110억 달러(16조 2,448억 원 정도), 기타 인프라에 120억 달러(17조 7,216억 원 정도)를 투입해 인프라 관련으로는 230억 달러(33조 9,664억 원 정도)를 투자했고 훈련과 R&D에 20억 달러(2조 9,536억 원 정도), 추론에 20억 달러(2조 9,536억 원 정도)를 사용해 운영에 40억 달러(5조 9,072억 원 정도)를 투자했습니다.

국내에선 상대적으로 존재감이 덜하지만, 만만찮은 경쟁자 아마존(amazon)의 경우 GPU를 비롯한 칩 구매에 80억 달러(11조 8,144억 원 정도), 기타 인프라에 80억 달러(11조 8,144억 원 정도)를 투입해 인프라 관련으로는 160억 달러(23조 6288억 원 정도)를 투자했고 훈련과 R&D에 20억 달러(2조 9,536억 원 정도), 추론에 10억 달러(1조 4,768억 원 정도)를 사용해 운영에 30억 달러(4조 4,304억 원 정도)를 투자했습니다.

말 그래도 빅테크들의 어마어마한 자본전쟁 양상인데요. 새로운 생성AI를 위한 학습 비용과 규모의 경쟁이 점차 어려워지는 상황이라 기존의 방식이 아닌 새로운 접근이 필요하지 않냐는 이야기가 많아지는 상황인데요. 여기 언급되지 않은 생성AI 개발사를 포함해 이어질 생성AI 전쟁이 어떤 양상으로 전개될지 지켜보는 것도 흥미로울 듯하네요. 마냥 흥미롭게 보기엔 생성AI로 시작된 AI붐이 우리 삶을 어떻게 바꿔갈지도 잘 따라가야겠고요.@_@

---

Which Big Tech Company Is Spending The Most On AI Data Centers? 🤖