AI 서버 시장 분석: 2023-2024년 "GPU 축제"는 서막에 불과

생성형 AI의 급격한 성장으로 인한 GPU 수요 증가와 AI 서버 시장의 현황을 심층적으로 살펴봅니다. NVIDIA의 GPU 부족 현상과 향후 AI 서버 시장의 전망을 상세히 분석하며, 이 분야의 주요 기업들의 동향을 파악합니다.

---

AI 서버 시장 분석: 2023-2024년 "GPU 축제"는 서막에 불과

GPU image, 출처 : NVIDIA

https://mall.ismedia.jp/index.php?dispatch=products.view&product_id=8764

内側から見た「半導体村」　今まで書けなかった業界秘話/湯之上隆 - イズメディア・モール

1. AI 서버 시장의 급성장

세계반도체협회(SIA)에 따르면 2030년 세계 반도체 시장은 1조 달러를 초과할 것으로 예상됩니다. 이 중 가장 큰 비중을 차지하는 것은 컴퓨팅 및 데이터 스토리지 분야(3,300억 달러)로, 주로 PC와 서버에 사용됩니다. 또한, 유선 통신 분야(600억 달러)와 함께 데이터 센터를 구성하게 됩니다.

1. 서버 출하액 전망:
   • 2022년: 837억 달러
   • 2023년: 1,081억 달러 (29.1% 증가)
   • 2029년: 2,077억 달러 (2022년 대비 약 148% 성장)
2. AI 서버 출하액 전망:
   • 2023년: 310억 달러
   • 2030년: 1,940억 달러 (약 525.8% 성장)
3. AI 서버의 비중:
   • 2023년: 전체 서버의 28.7%
   • 2029년: 전체 서버의 71.8% (150% 증가)

이러한 급격한 성장세는 2022년 11월 OpenAI의 ChatGPT 공개 이후 가속화된 생성형 AI 붐과 밀접한 관련이 있습니다.

2. NVIDIA GPU 공급 부족과 해결 노력

NVIDIA의 GPU는 TSMC가 전공정, 중공정, 후공정을 모두 담당하고 있습니다. 특히 중공정에서 실리콘 인터포저 위에 각종 칩을 접합하는 과정이 병목 현상을 일으켜 미국 클라우드 기업들의 수요를 충족시키지 못했습니다.

TSMC는 이 문제를 해결하기 위해 다음과 같은 노력을 기울였습니다:

• 인터포저의 월간 생산 능력을 1.5만 장에서 3만 장으로 확대
• GPU 생산 리드타임을 52주에서 20주로 단축

이러한 노력에도 불구하고, AI 서버 수요를 완전히 충족시키기에는 여전히 부족한 상황입니다.

3. 범용 AI 서버와 하이엔드 AI 서버

DIGITIMES Research의 보고서에 따르면 AI 서버는 두 종류로 구분됩니다:

1. 범용 AI 서버: HBM(High Bandwidth Memory)을 탑재하지 않은 AI 가속기를 2개 이상 탑재한 시스템
2. 하이엔드 AI 서버: HBM을 탑재한 AI 가속기를 4개 이상 탑재한 시스템

출하 대수 전망:

• 범용 AI 서버:
  • 2022년: 34.4만 대
  • 2023년: 47만 대 (36.6% 증가)
  • 2024년: 72.5만 대 (54.3% 증가, 예상)
• 하이엔드 AI 서버:
  • 2022년: 3.4만 대
  • 2023년: 20만 대 (488.2% 급증)
  • 2024년: 56.4만 대 (182% 증가, 예상)

주목할 점은 하이엔드 AI 서버의 급격한 성장세입니다. 이는 ChatGPT와 같은 대규모 언어 모델의 수요 증가를 반영합니다.

4. AI 서버의 비중과 시사점

1. 전체 서버 대비 AI 서버 비중:
   • 2022년: 2.8% (하이엔드 AI 서버 0.2%)
   • 2023년: 4.8% (하이엔드 AI 서버 1.4%)
   • 2024년: 8.9% (하이엔드 AI 서버 3.9%, 예상)

이 데이터는 AI 서버, 특히 하이엔드 AI 서버의 비중이 아직 낮지만 빠르게 증가하고 있음을 보여줍니다.

2. 주요 클라우드 기업의 하이엔드 AI 서버 보유 현황 (2024년 예상):
   • Google: 16.2만 대 (28.7%)
   • Microsoft: 9만 대 (16%)
   • Supermicro: 6.8만 대 (12.1%)
   • Amazon: 6.7만 대 (11.9%)
   • Meta: 4.6만 대 (8.2%)

상위 5개 기업이 전체 하이엔드 AI 서버의 약 76.9%를 차지할 것으로 예상됩니다. 이는 AI 인프라가 소수의 대형 기술 기업에 집중되고 있음을 시사합니다.

3. AI 가속기별 하이엔드 AI 서버 출하 대수 (2024년 예상):
   • NVIDIA: 22.6만 대 (약 60%)
   • Google (TPU): 13.8만 대 (36.7%)
   • AMD: 4.5만 대 (12%)
   • Amazon: 4만 대 (10.6%)

NVIDIA가 여전히 시장을 주도하고 있지만, Google의 자체 개발 TPU가 강력한 경쟁자로 부상하고 있습니다. AMD와 Amazon도 시장 점유율을 늘리고 있어, 경쟁이 더욱 치열해질 전망입니다.

5. NVIDIA GPU 모델별 동향

NVIDIA의 GPU 모델별 하이엔드 AI 서버 출하 대수 변화:

• A100: 2023년 6.1만 대에서 2024년 0.5만 대로 감소 (-91.8%)
• H100: 2023년 6.6만 대에서 2024년 21.6만 대로 증가 (+227.3%)
• B100/200: 2023년 0대에서 2024년 5.6만 대로 증가
• H200: 2023년 0대에서 2024년 3.6만 대로 증가
• H20 (중국 향 다운그레이드 모델): 2023년 0대에서 2024년 1.8만 대로 증가

이 데이터는 NVIDIA가 새로운 GPU 모델로 빠르게 전환하고 있음을 보여줍니다. 특히 H100의 급격한 증가와 신규 모델의 도입이 주목됩니다.

6. 결론 및 전망

1. 2023-2024년의 "GPU 축제"는 AI 붐의 서막에 불과합니다. 하이엔드 AI 서버의 비중이 2024년에도 3.9%에 그칠 것으로 예상되어, 향후 큰 성장 잠재력이 있습니다.
2. NVIDIA의 최대 경쟁자는 AMD가 아닌 Google로 보입니다. Google의 자체 개발 TPU가 NVIDIA GPU에 이어 두 번째로 큰 시장 점유율을 보이고 있습니다.
3. 데이터센터 시장은 2023년부터 2029년까지 약 2배 성장할 것으로 예상됩니다. 이는 AI 서버 수요 증가와 밀접한 관련이 있습니다.
4. 생성형 AI의 발전이 세계 반도체 시장의 성장을 주도할 것으로 전망됩니다. 특히 하이엔드 AI 서버에 사용되는 고성능 GPU, HBM, 프로세서, DRAM, SSD 등의 수요가 크게 증가할 것으로 예상됩니다.
5. AI 인프라의 집중화가 진행되고 있습니다. 소수의 대형 기술 기업이 하이엔드 AI 서버 시장을 주도하고 있어, 중소 기업이나 스타트업의 AI 개발 환경에 영향을 미칠 수 있습니다.
6. GPU 공급 부족 문제는 점차 해소될 것으로 보이지만, AI 서버 수요의 급증으로 인해 완전한 해결까지는 시간이 더 필요할 것으로 예상됩니다.

이러한 동향은 반도체 산업, 클라우드 컴퓨팅, AI 기술 발전에 큰 영향을 미칠 것으로 보입니다. 기업들은 이러한 변화에 대응하여 전략을 수립하고, 연구자들은 더욱 효율적인 AI 알고리즘과 하드웨어 개발에 주력해야 할 것입니다.