지난 주말 오랜만에 오프라인 스터디에 참석해서 현재 화두가 되고 있는 데이터센터 관련 심층 분석을 배우는 시간을 갖게 됐다. 평소 AI 데이터센터에 대해 낙관적인 뷰를 가지고 있는 와중에 뭐랄까.. 마음 한편에 찝찝함이 있었다고 해야 할까, 전부는 아니더라도 그 불편한 부분을 어느 정도 해소된 것 같다. 시장을 보다 더 이성적으로 바라볼 수 있을 것 같다. (조금 더 공부가 필요하겠지만)
여담이지만 개인적으로 참여하고 있는 스터디 그룹에는 평소 투자에 진심이고, 그 마음만큼 누구보다 열정을 가지고 공부하시는 분들이 계셔서 많이 배운다. 그러던 지난 6월, 반도체로만 수급이 몰리는 현상을 두고 말이 많았다.
이들이 왜 이렇게 부정적인 뷰를 가지고 있는지, 기본적인 것부터 순서대로 정리해 보려고 한다.
1. 데이터센터에 대한 기본 지식
데이터센터(Data Center) =
서버, 스토리지, 네트워크, 전력, 냉각, 보안을 한데 모아서 IT 서비스와 데이터를 24시간 안정적으로 운영·보관하는 시설
좀 더 쉽게 표현하자면, 수천~수만 대의 컴퓨터(서버)를 전기·냉각·인터넷·보안을 빵빵하게 깔아둔 건물 안에 넣고, 거기서 유튜브, 인스타 은행, 게임, AI 같은 서비스가 돌아가는 곳이라고 할 수 있다.
여기서 데이터센터를 두 가지로 분류할 수 있는데, '일반 데이터센터'와 'AI 데이터센터'다.
일반 데이터센터는
웹 서비스·검색·쇼핑몰·은행·게임·동영상 스트리밍 등 CPU 서버 중심으로 이뤄져 있다.
전기 사용은 보통이며, 냉각은 공랭(일반 에어컨 계열)으로 이뤄져 있다.
네트워크는 10~40Gbps 정도로, 무거운 연산이 거의 없다.
무거운 연산이 거의 없으며, 대부분 데이터 I/O와 비즈니스 로직임.
정리하자면, CPU 중심이라 전기·냉각·네트워크 요구사항이 낮다.
AI 데이터센터는
GPU 서버 중심으로 이뤄져 있다.
LLM 학습, 추론, 자율주행 학습, 추천 AI, 비전 AI를 사용하며,
전기 사용량이 상당하다.(랙당 30~80k