엔비디아의 GPU가 워낙 비싸다보니 이를 대체하고자 하는 수요가 많습니다. 알파벳은 고유의 AI 전용 연산장치인 TPU를 지속적으로 발전시키고 있습니다. 테슬라도 자사의 슈퍼컴퓨터 Dojo를 만들 때 D1이라는 칩을 자체개발했습니다. 현재 엔비디아의 데이터센터 GPU 시장점유율은 85% 수준인 것으로 알려졌는데, 이렇게 칩을 자체 생산하는 경우가 더 많아지면 실질적인 시장점유율은 이보다 낮다고 가정해야 할 것입니다. (...) 본문에서 이어집니다
기업 딥다이브 코너는 기업 관련 투자 아이디어 및 리스크를 설명하는 기본편과, 상세한 실적추정 및 밸류에이션을 다루는 심화편으로 구성되어 있습니다. 심화편은 신가치투자 훈련과정을 수강한 Fellow 기준으로 난이도가 설정되어 있으니 양해해 주시기 바랍니다.
본 콘텐츠는 일반적인 정보 제공만을 목적으로 작성된 것으로, 특정 투자상품의 매수·매도 또는 보유를 권유하지 않으며 그 어떠한 경우에도 증권·파생상품 등 금융투자상품에 대한 투자 조언으로 해석될 수 없습니다.
뉴로퓨전은 콘텐츠에 제공된 정보의 정확성, 완전성 또는 신뢰성에 대해 보장하지 않으며, 본 콘텐츠를 이용함으로써 발생하는 직·간접적인 손실에 대해 어떠한 책임도 지지 않습니다.
AI 메가트렌드의 핵심, Nvidia - 기업 설명 및 실적 추정
엔비디아 없이는 AI를 논할 수 없다?
현재 가장 주목받는 메가트렌드는 단연 AI입니다. 올해 미국 주식시장은 7개 빅테크 기업(Magnificent 7)의 독무대였고, 이들 기업은 모두 AI와 깊은 연관이 있습니다. 그중에서도 엔비디아는 독보적인 이익 성장과 주가 모멘텀을 보이며 세계 경제를 견인하는 기업으로 자리매김했죠. 이번 AI 사이클을 이해하려면 먼저 엔비디아가 어떤 기업인지 이해해야 합니다.
다른 한편에서는 최근 엔비디아를 비롯한 반도체, IT 기업의 주가가 큰 폭으로 조정받으며 우려의 목소리가 커지고 있습니다. 이익 성장이 고점에 도달했다는 우려와 높은 밸류에이션은 AI 관련주의 주가상승을 막는 핵심적인 요인입니다. AI의 수익성 문제부터 경쟁 심화, AI 알고리즘의 효율성 증가로 인한 학습 수요 감소 등 엔비디아의 미래에 회의적인 사람들의 근거도 많습니다.
하지만 AI가 한때의 유행에 그치게 될 것이라는 비판도 생각해봐야 할 점들이 있습니다. 왜냐하면 AI는 정보기술(IT)에서 데이터기술(DT) 사회로의 전환이라는 더 큰 메가트렌드의 일부이기 때문입니다. AI 이전에 있었던 디지털 광고, 클라우드 컴퓨팅 사업은 2000년대 초반부터 본격적으로 성장하여 아직도 우리 주변에 있습니다. 서비스형 소프트웨어(SaaS)의 수익성 확보 과정도 현재의 AI 못지 않게 험난했습니다.
거장들 사이에서도 엔비디아에 대한 전망이 엇갈리는 것을 볼 수 있습니다. [투자거장 분석]의 거장 매매 탭을 보면, 엔비디아는 최근 분기 매수금액 5위, 매도금액 2위라는 독특한 순위를 가지고 있습니다. 특히 저점부터 엔비디아를 보유했던 스탠리 드러켄밀러의 매도는 많은 투자자들을 동요하게 만들었습니다. (스탠리 드러켄밀러의 최근 13F 보유종목 링크)
[최근 분기 거장 매매 랭킹]
출처: Valley AI
과연 엔비디아와 AI의 미래는 어떻게 될까요? 올해 엔비디아의 성취는 그동안 쌓여온 엔비디아의 기술과, 인터넷 산업의 성장이 화학작용을 일으킨 결과물입니다. 따라서 먼저 엔비디아가 어떻게 GPU의 선두주자가 되었고, 인터넷 산업이 어쩌다 그 많은 GPU를 필요로 하게 되었는지 알아보겠습니다.
엔비디아의 역사
엔비디아는 방대한 양의 데이터를 빠르게 연산하는데 최적화된 컴퓨터 연산장비인 GPU를 만드는 기업입니다. 특히 하드웨어인 GPU뿐만 아니라 이를 구동하기 위한 엔비디아 고유의 아키텍처이자 소프트웨어인 CUDA가 압도적인 경쟁우위를 형성하고 있습니다. 엔비디아의 창립자인 젠슨 황은 기존에 CPU가 차지하던 일반 목적 컴퓨팅의 발전은 한계에 봉착했다고 지적했습니다. 특정 목적에 최적화된 GPU를 이용한 가속 컴퓨팅이 훨씬 전력, 비용 효율성이 높다는 것이죠. 엔비디아의 제품들은 언제나 비싼 편임에도 불구하고 젠슨 황은 오히려 엔비디아의 제품을 쓰는게 비용을 아낄 수 있는 길이라고 자주 강조하곤 합니다.
여기서 CPU, GPU나 가속 컴퓨팅라는 용어가 생소하신 분들을 위해 잠시 개념들을 짚고 넘어가겠습니다.
CPU (Central Processing Unit)
CPU는 일반적인 계산과 컴퓨터 시스템의 제어를 위한 연산장치입니다. 몇 개의 산술/논리 장치(ALU), 부동소수점 장치(FPU)와 이를 이용하기 위한 메모리(캐시, 레지스터), 제어회로, 연결장치(버스) 등으로 이루어져 있습니다. 여기에서 가장 핵심이 되는 수학적인 연산을 하는 부품은 ALU, FPU로, 이들을 조합한 부품을 코어라고 부릅니다. 컴퓨터를 살 때 이건 8코어, 저건 24코어 할 때의 그 코어가 CPU에 들어가는 코어의 개수입니다.
GPU (Graphics Processing Unit)
GPU는 CPU에 들어가는 코어보다 작지만, 수천 개의 코어를 가지고 있습니다. 많은 양의 단순한 연산을 병렬적으로 처리하는 연산장치입니다. 이렇게 만든 이유는 복잡한 그래픽과 이미지 처리를 빠르게 하기 위해서입니다. 우리가 보는 모니터는 흔히 수백만개의 픽셀로 이루어져 있습니다. 모니터에 영상을 띄우기 위해서는 각 픽셀이 언제 어떤 색을 띄는지 입력해야 합니다. CPU로 모든 픽셀의 색상을 일일히 연산하는 것보다, 쉬운 연산은 GPU에 넘기고 복잡한 것만 CPU가 처리해주면 훨씬 효율적으로 그래픽을 출력할 수 있습니다.
[ CPU와 GPU의 차이 ]
출처: Youtube
그런데 이렇게 단순 연산을 GPU가 처리했을때 효율성이 개선되는 작업은 그래픽만이 아닙니다. LLM과 같은 대형 AI를 학습시키려면 많은 양의 행렬 곱셈과 덧셈을 반복해야 하는데, 이 연산은 복잡하지 않아 GPU에 있는 코어로도 충분히 연산할 수 있습니다. 따라서 GPU를 이용하여 수천개의 코어로 동시에 연산하면 훨씬 빠르게 AI 모델을 학습시킬 수 있습니다. 이렇게 특정 목적에 연산장치를 최적화하는 것을 가속 컴퓨팅이라고 부릅니다. 엔비디아에서 판매하는 장비 중에 가속기(Accelerator)라는 이름의 장비들이 있는데, 해당 목적에 특화된 컴퓨터라고 이해하시면 되겠습니다.
최근에는 GPU보다 더 머신러닝에 특화된 NPU(Neural Processing Unit), TPU(Tensor Processing Unit)이 개발되고 있습니다. 이렇게 특정 목적에 맞게 맞춤제작한 칩을 ASIC이라고 부릅니다. 하지만 엔비디아의 경쟁력은 하드웨어만이 아니라 소프트웨어까지 아우르는 플랫폼인 CUDA에도 있습니다. ASIC은 특정 목적의 연산에는 GPU보다 성능이 뛰어나지만, 직접 이를 활용할 소프트웨어까지 전부 설계해야 하는데다 최적화된 범위를 벗어나는 연산에서는 효율성이 떨어집니다. 따라서 보편적으로 다양한 데이터, AI 모델을 다루기에는 CUDA의 라이브러리를 사용할 수 있는 엔비디아 GPU가 더 적합합니다.
FLOPS (FLoating point Operations Per Second)
CPU, GPU의 세부적인 작동구조까지 알 필요는 없지만, 컴퓨터의 성능을 측정할 때 사용하는 지표 중 하나인 FLOPS는 알아야 그 컴퓨터가 어떤 목적을 가졌고, 신제품의 성능이 얼마나 좋아진 것인지 알 수 있습니다. FLOPS는 초당 부동소수점 연산의 약자입니다. 부동소수점 연산은 매우 크거나 작은 실수 (자연수, 정수, 실수할때 그 실수)를 다루는 연산입니다. 부동소수점 단위(Bit)의 크기에 따라 FP4, FP8, FP16… 이런 식으로 표기합니다. 현재 일반적인 PC에 들어가는 CPU는 FP32 기준 수백 GFLOPS 단위입니다. (1 GFLOPS = 10^9 FLOPS)
엔비디아 GPU도 기존에는 FP32 단위로 연산하는 CUDA 코어를 이용했습니다. 하지만 2017년에 큰 단위의 부동소수점이 필요하지 않은 딥러닝 목적에 맞춰 다수의 FP16 연산을 수행하는 텐서 코어를 개발했습니다. 정밀도는 떨어지지만 그만큼 훨씬 높은 FLOPS를 확보할 수 있는 것이죠. 엔비디아의 최신 AI 가속용 GPU인 Blackwell (B200)은 FP8 단위로 20 PFLOPS, FP4 단위로는 40 PFLOPS를 자랑합니다. (1 PFLOPS = 10^15 FLOPS)
게임용 그래픽카드의 DNA를 가진 엔비디아 (1993 ~ 2005)
엔비디아는 1993년에 3D Graphics라는 이름으로 창립되었습니다. 원래 GPU의 개념은 1950년부터 있었지만, 1990년대는 PC 시장이 급격히 커지던 시기였고 많은 신생기업이 생겼습니다. 특히 1993년에는 인텔의 펜티엄 CPU가 발매되어 저렴한 32Bit PC가 대중화되기 시작헸습니다.
처음 엔비디아가 시장에 나왔을 때는 3DFx라는 기업이 앞서고 있었습니다. 1996년에 출시된 3DFx의 Voodoo Graphics는 기존의 2D 그래픽카드를 대체하여 무려 85%의 시장점유율을 차지했습니다. 문제는 생산시설 없이 개발만 하는 팹리스 기업이었던 3DFx가 무리하게 자체 독점생산을 시도했다는겁니다. 이를 위해 인수한 그래픽카드 제조사인 STB Systems는 엔비디아와 새롭게 납품계약을 맺은 신생 아시아 제조사들에 비해 비용과 품질 면에서 불리했습니다. 게다가 독점 생산체제는 PC의 여러 부품을 연결하는 회로인 메인보드 제조사들과의 관계를 악화시켜 시장점유율을 잃어버리게 되는 결과를 초래했습니다. 결국 3DFx는 2000년에 엔비디아에 대부분의 자산을 매각하고 2002년에 파산했습니다.
반면에 엔비디아는 중저가 그래픽카드로 시장점유율을 확보하다가 1999년에 야심작 GeForce 256을 출시했습니다. 이 그래픽카드는 처음으로 GPU라는 용어를 사용하여 광고되었고, 초당 1000만개의 폴리곤(컴퓨터 3D 그래픽의 기본 단위)을 처리할 수 있었습니다. 이때부터 엔비디아는 시장에서 기술적으로 선두를 경쟁하는 기업이 되었습니다.
[ GeForce 256 데모 영상 캡처 ]
출처: Youtube
지금은 엔비디아의 이익에서 게이밍 장비 사업이 차지하는 비중이 적지만, 엔비디아가 가진 기술 선도자로서의 이미지는 이때 만들어졌습니다. 2000년대에 접어들어 엔비디아는 ATI (2006년에 AMD에 인수됨)와 경쟁하며 급격히 성능을 향상시킵니다.
그래픽에서 벗어난 GPU (2006 ~ 2011)
원래 컴퓨터 성능의 발전속도를 보면 매 2년마다 집적회로의 트랜지스터 수가 2배가 된다는 무어의 법칙이 관찰됩니다. 2000년대 이전까지만 해도 컴퓨터의 성능도 트랜지스터 개수와 비슷한 속도로 발전했으나, 곧 성능 상승폭이 둔화되기 시작했습니다. 점점 미세화되는 반도체 생산공정으로 인해 칩을 이루는 트랜지스터의 크기가 작아지면서 전력 누설량이 많아졌기 때문입니다. 원래는 칩 안에 트랜지스터 밀도가 늘수록 트랜지스터 1개당 소모하는 전력이 감소하는 Dennard Scaling이라는 현상이 있었는데, 이것이 2007년부터 둔화되어 2012년에는 거의 사라졌습니다.
Dennard Scaling이 어렵다면 초창기 스마트폰에서의 발열 문제를 생각하시면 편합니다. 최초의 아이폰이 발매된 2007년 이래로 한동안 스마트폰에서 게임이라도 구동하면 엄청나게 뜨거워지는 경험을 하셨을겁니다. 스마트폰 제조사 입장에서는 칩의 성능도 중요하지만, 배터리 용량 제약과 발열 문제로 인해 무작정 더 고전력, 고성능의 칩을 넣을 수 없었습니다.
[ 무어의 법칙: 집적회로 내의 트랜지스터 개수는 2년에 약 2배씩 증가한다. ]
출처: Vasileios Leon. (2023). From Circuits to SoC Processors: Arithmetic ...