AI 데이터센터에 대한 입문서



“당시 한 금융가가 관찰했듯이, 급성장하는 미국 전력 시스템에 필요한 금액은 “당황스러웠”고 “둥글고 힘들게 번 돈의 총합보다 천문학적 수학처럼 들렸습니다.”” - [1900년경 전력망 구축에 대한 설명] 전력 손실, Richard Hirsh 1999, 건설 물리학.

우리는 현재 역사상 가장 큰 규모의 컴퓨팅 인프라 구축 작업을 진행 중입니다.

100년 전에도 이와 비슷한 전력망 구축이 이루어졌습니다(아이러니하게도 오늘날의 전력망 구축에는 병목 현상이 발생하고 있습니다). 전력망의 탄생과 함께 우리는 발전소의 확장(성능 향상을 위해 가능한 한 큰 규모의 발전소를 건설), '천문학적' 설비 투자, 전기 요금의 급락을 목격했습니다.

오늘날 우리는 데이터 센터의 확장, 하이퍼스케일러의 “천문학적” 자본 투자, AI 컴퓨팅 비용의 급락을 목격하고 있습니다:

이 글은 AI 데이터센터가 정확히 무엇을 의미하는지, 데이터센터에 구성 요소를 공급하는 업체는 누구인지, 기회는 어디에 있는지 등 AI 데이터센터를 분석하는 여러 파트의 시리즈에 대한 소개 글입니다.

이 글에서는 특히 AI 전용 데이터센터를 구축하는 데 필요한 인프라에 초점을 맞출 예정이며, 데이터센터에 대한 입문적인 내용은 몇 달 전에 게시한 이 글을 읽어보시기 바랍니다.

1. AI 데이터 센터의 개요

“데이터 센터"라는 용어는 이러한 ‘AI 팩토리’(젠슨이 애칭으로 부르는)의 엄청난 규모를 제대로 표현하지 못합니다. 가장 큰 데이터센터는 토지, 전기 및 냉각 장비, 건설 비용, GPU 및 기타 컴퓨팅 인프라에 수십억 달러의 비용이 듭니다.

이는 에너지 비용 전입니다. 새로운 최대 규모의 하이퍼스케일러 데이터센터는 최대 1GW의 에너지 용량을 소비합니다. 참고로 뉴욕시의 전력 소비량은 약 5.5GW입니다. 따라서 이러한 메가 데이터센터 5개가 들어설 때마다 그에 상응하는 뉴욕시 하나가 전력망에 추가되는 셈입니다.

데이터센터 가치 사슬은 크게 데이터센터 개발을 위한 초기 건설, 데이터센터를 지원하는 산업 장비, 데이터센터의 컴퓨팅 인프라, 데이터센터의 전력 공급에 필요한 에너지 등 몇 가지 범주로 나눌 수 있습니다. 또한 데이터 센터를 소유하거나 임대하여 소비자에게 최종 서비스를 제공하는 기업도 있습니다.

가치 사슬 시각화:

이 이미지가 데이터센터에 노출된 모든 기업을 다루고 있는 것은 아닙니다. 금융회사, 부동산 개발업체, 건설업체 등 수많은 기업이 데이터센터 구축에 기여하고 있습니다. 모건 하우젤은 "제가 놓친 부분을 지적하는 사람이라면 누구든 동의할 것"이라고 말합니다.

더 자세히 알아보기 전에 데이터 센터의 역사를 살펴볼 필요가 있습니다(특히 오늘날 우리가 겪고 있는 에너지 경색, 특히 북부 버지니아 지역과 관련이 있습니다).

2. 데이터 센터의 간략한 역사

데이터센터는 대체로 컴퓨터의 발전과 인터넷의 부상과 함께 성장해 왔습니다. 이러한 추세의 역사와 우리가 어떻게 여기까지 오게 되었는지 간략하게 살펴보겠습니다.

데이터센터의 초기 역사

컴퓨팅의 초기 버전은 컴퓨팅 집약적이고 중요한 작업을 해결하기 위한 중앙 집중식 컴퓨터라는 점에서 오늘날의 데이터센터와 유사했습니다.

이에 대한 초기 사례로 두 가지가 있습니다:

1. 콜로서스 - 앨런 튜링이 에니그마 머신을 깨기 위해 만든 컴퓨터. (참고: 튜링은 인공 지능과 컴퓨터 과학의 아버지로도 불립니다. 그는 인공지능이 진짜인지 테스트하기 위한 수단으로 튜링 테스트를 제안했고, 작년에 ChatGPT가 이를 통과했습니다.) 

2. 에니악 - 2차 세계대전 당시 미군이 설계했지만 1946년까지 완성되지 않은 컴퓨터. 콜로서스는 에니악보다 먼저 제작되었지만, 콜로서스의 기밀성 때문에 에니악이 최초의 컴퓨터로 간주되는 경우가 많습니다.

두 제품 모두 “최초의 데이터 센터”로 간주될 수 있는 곳에 보관되었습니다.

https://www.simslifecycle.com/blog/2022/the-journey-of-eniac-the-worlds-first-computer/

1950년대에 IBM은 메인프레임 컴퓨터로 컴퓨팅을 지배하기 시작했습니다. 이는 당시의 또 다른 주요 기술 기업 중 하나였던 AT&T와 함께 수십 년간 기술 분야에서 우위를 점하게 됩니다.

1969년에 출시된 ARPANET은 미국에서 점점 더 많은 컴퓨터를 연결하기 위한 방법으로 개발되었습니다. 지금은 인터넷의 초기 버전으로 간주됩니다. 정부 프로젝트였기 때문에 가장 밀집된 연결은 워싱턴 DC 주변이었습니다.

이것이 바로 북부 버지니아의 컴퓨팅 지배력의 근원이었습니다. 새로운 세대의 데이터 센터가 건설될 때마다 기존 인프라를 그대로 사용하기를 원했습니다. 그렇게 해서 북부 버지니아 지역이 탄생했고 지금도 여전히 그렇습니다!

사진 삭제

사진 설명을 입력하세요.

https://www.visualcapitalist.com/cp/top-data-center-markets/

인터넷과 클라우드의 부상

1990년대에 인터넷이 성장하면서 늘어나는 인터넷 데이터를 처리하기 위해 더 많은 물리적 인프라가 필요했습니다. 부분적으로는 상호 연결 지점인 데이터 센터의 형태가 필요했습니다. AT&T와 같은 통신 사업자들은 이미 통신 인프라를 구축해 놓았기 때문에 자연스럽게 데이터 센터를 확장할 수 있었습니다.

하지만 이 통신사들은 오늘날 수직적으로 통합된 클라우드 제공업체와 비슷한 경쟁 구도를 가지고 있었습니다. AT&T는 자사 인프라를 통해 전달되는 데이터와 인프라 자체를 소유하고 있었습니다. 따라서 용량이 제한되어 있는 경우 AT&T는 자체 데이터에 우선순위를 두었습니다. 기업들은 이러한 역학 관계를 경계했고, 그 결과 디지털 리얼티와 에퀴닉스 같은 데이터 센터 기업이 등장했습니다.

데이터 센터는 닷컴 버블 기간 동안 대규모 투자가 이루어졌지만, ...