병목을 찾아라

[초연결성, GPU에서 주변으로]

• Ghat GPT는 더 많은 parameter가 높은 LLM 성능을 확보하는 가장 확실한 수단임을 보여주었습니다.

• 더 많은 parameter를 확보하기 위해 모두 GPU를 확보하기 위해 달려갔습니다.

  • AI 투자 초기 병목은 GPU였고 NVIDIA의 독주가 시작되었습니다.

• 큰 산업의 흐름에서 병목이 되는 영역에서 큰 성장이 발생합니다.

• GPU 병목이 발생한 기간동안 NVIDIA의 주가 상승

데이터 센터 구성

1. 컴퓨팅 (GPU, CPU)

2. 스토리지 (HBM, DRAM, NAND)

3. 전력, 쿨링

4. 네트워킹

   • GPU 간의 연결, 메모리 간의 연결

• GPU 성능의 급격한 발전으로 결국 Data center 내에서 데이터 처리의 병목은 네트워킹과 스토리지로 옮겨가고 있습니다.

  • AI 데이터 센터의 성능 병목을 만들어내는 것은 네트워킹과 스토리지입니다.

[ROI]

• 엄청나게 늘어난 CAPEX 투자 규모에 빅테크 기업들은 이제 AI의 투자에 따른 성과를 확인해야하는 단계에 도달했습니다.

• CAPEX / FCF > 1

  • 모든 빅테크 기업들의 FCF (Free Cash Flow) 대비 CAPEX가 1배를 넘어서고 있습니다.

  • 주주에게 남는 돈보다 기업의 시설에 투자하는 비용이 더 커지고 있는 것입니다.

  • 이 정도 규모의 투자에 있어서 기업은 투자의 이유를 설명해야 합니다.

Free Cash Flow

• 영업활동으로 창출된 현금에서 설비투자 등 자본적 지출을 차감한 잔여 현금

• 기업의 주주에게 귀속될 수 있는 현금

• 간략하게 나타내면, FCF = 영업이익 - 법인세 - 감가상각 (자본적지출)

• ROI (Retrun On Investment) 관점에서 가장 효율적인 투자 분야는 어디일까? = AI 투자의 병목에서 가장 효율적인 곳은 어디인가?

  • AI 연산에 ...