2026. Death Valley, Shakeout
CAPEX 시대의 시작
2026년 01월 13일
Starwars 작성
2022년 11월, Chat GPT는 기술 업계에 검색과 소프트웨어의 시대가 끝난다는 공포와 기대를 동시에 주었음.
공포: 구글같은 자들은 AI가 검색 시장을 대체하며 비즈니스 모델이 붕괴할 것이라는 공포와 기대를 동시에 받음.
기존 소프트웨어는 알고리즘을 잘 짜는게 중요했다면,
그때는 LLM을 얼마나 잘 학습시키느냐가 핵심이 되었음.
지금은 추론을 얼마나 값싸게 서비스 하고, 구독자를 얼마나 끌어오느냐가 핵심이겠지만.
어쨌든 저 중간 LLM을 학습시키기 위해 23년도부터 빅테크들은 어마어마한 투자를 학습에 하기 시작함.
그로인해 전세계 GPU 공급부족이 극심했던 해였음.
학습장치가 없으면 미래 경쟁에서 도태된다는 생각에, 빅테크들은 어마어마한 규모의 칩을 선제적으로 주문하기 시작했음.
자금력이 풍부한 1군기업들은 시장의 GPU 물량을 싹쓸이 하면서, 2,3군 기업들이 스타트업이 따라오지 못하게 하는 자본의 해자를 만든 시기임.
저때 애크먼과 미국채 불꽃 숏과 맞물리던 시기이며,
위에 써놨듯 한참 LLM이 학습으로 성능이 강화되던 때임.
2026. Death Valley, Shakeout
2025년초, 데이터 센터 과잉 공급 충격
그리고 시간은 흘러,
25년에 들어섰고, 트럼프의 당선과 감세와 관세 주제가 가장 뜨거웠을 때임.
그때, 소프트웨어 업계는 데이터센터 과잉문제에 직면했었음.
소프트웨어 업계가 너무 비싸게, 너무 많이 산거 아닌가? 하는 의구심 때문임.
1. 딥시크는 아주 적은 비용으로 Open AI의 모델과 맞먹는 성능의 모델을 내놓으면서 시작됨.
딥시크는 600만달러 - 2000개의 GPU로 최고 수준의 모델을 훈련시켰다고 주장했음.
당시 빅테크들이 수억달러와 수만개 GPU를 쏟아붓던 방식에 찬물을 끼얹은 것임.
그러니 당연히 엔비디아 칩을 수만개씩 사서 무식하게 때려 박던 방식에 의문점이 생겼고, 알고리즘 효율성만 높이면 칩을 훨씬 적게 써도 된다는 사실이 증명되자, ICT 가치사슬은 엄청난 충격을 받았음.
2. 데이터센터 과잉논란과 MS
마이크로소프트는 일부 데이터 센터 임대 계약을 취소했다는 소식이 전해지며 공급 과잉 논란이 본격화 되었음.
기업들이 AI를 도입하긴 하지만, 실제 돈을 내고 유료 구독자가 늘지 않는다는 수익화에 대한 의구심이 생겼음.
지어놓은 데이터센터는 넘쳐나지만, 채울 고객이 없어 임대료가 떨어질거란 예측이 나옴.
허나 시간이 흘러, 이제 우리는 알고 있음.
딥시크 모멘트는 두가지를 알게 해주었음.
딥시크는 기업이 600만 달러를 지불해주었을지언정, 중국의 신형거국체제하에 보이지않는 지원이 존재한다는 점
(2020년 이후, 중국의 생성형 AI관련 투자 딜중 60%이상이 중국 정부의 직간접적 참여가 있었으며, 국가 포트폴리오 일환으로 존재함)
과 제본스의 역설, 학습해 효율이 상승한 AI는 서비스 단가가 낮아지고, 시장 보급률이 증가해 전체적 인프라 수요는 오히려 늘어난다는 것을 몸소 보여줌 (추론 시장에서 ASIC 모델 수요와 같음.)
요약하면, 2025년에는 AI 개발이(학습이) 싸졌으니 비싼 인프라가 필요 없어질 것. 이었으나, 실제 결과는 AI가 싸지니까 수요가 더 늘어나 인프라가 더 필요해졌다는 결론임
2026. Death Valley, Shakeout
LLM의 지능의 고원(Intelligence Plateau)
GPT나 제미니등, LLM은 25년 말 26년 초에 진입하자, 성능은 효용 평탄화된 지점에 이르렀음.
단순히 모델을 키우는 (Scaling Laws)로는 예전만큼의 비약적인 성능 향상은 일어나지 않음.
주요 사안은 이거임.
1. Data Wall
고품질 학습 데이터의 고갈임.
인류가 인터넷에 올린 거의 모든 텍스트는 이미 GPT4나 Gemini 1.5에서 다 훑어 학습함.
더 큰 모델을 만들어도 더이상 새로운 지식을 넣어줄 소스가 부족해졌으며, AI가 만든 데이터를 다시 Ai가 학습하는 현상이 발생하며 (환각 현상) 오히려 성능이 퇴보하는 리스크까지 생겨버림.
2. 추론과 지식의 분리
이제는 모델이 무엇을 아느냐보다 어떻게 생각하느냐가 더 중요해진 시점이 와버렸음.
과거에는 새로운 사실을 맞추면 이녀석 똑똑하네 했지만,
이...