병목을 찾아라 [초연결성, GPU에서 주변으로] Ghat GPT는 더 많은 parameter가 높은 LLM 성능을 확보하는 가장 확실한 수단임을 보여주었습니다. 더 많은 parameter를 확보하기 위해 모두 GPU를 확보하기 위해 달려갔습니다. AI 투자 초기 병목은 GPU였고 NVIDIA의 독주가 시작되었습니다. 큰 산업의 흐름에서 병목이 되는 영역에서 큰 성장이 발생합니다. GPU 병목이 발생한 기간동안 NVIDIA의 주가 상승 데이터 센터 구성 컴퓨팅 (GPU, CPU) 스토리지 (HBM, DRAM, NAND) 전력, 쿨링 네트워킹 GPU 간의 연결, 메모리 간의 연결 GPU 성능의 급격한 발전으로 결국 Data center 내에서 데이터 처리의 병목은 네트워킹과 스토리지로 옮겨가고 있습니다. AI 데이터 센터의 성능 병목을 만들어내는 것은 네트워킹과 스토리지입니다. [ROI] 엄청나게 늘어난 CAPEX 투자 규모에 빅테크 기업들은 이제 AI의 투자에 따른 성과를 확인해야하는 단계에 도달했습니다. CAPEX / FCF > 1 모든 빅테크 기업들의 FCF (Free Cash Flow) 대비 CAPEX가 1배를 넘어서고 있습니다. 주주에게 남는 돈보다 기업의 시설에 투자하는 비용이 더 커지고 있는 것입니다. 이 정도 규모의 투자에 있어서 기업은 투자의 이유를 설명해야 합니다. Free Cash Flow 영업활동으로 창출된 현금에서 설비투자 등 자본적 지출을 차감한 잔여 현금 기업의 주주에게 귀속될 수 있는 현금 간략하게 나타내면, FCF = 영업이익 - 법인세 - 감가상각 (자본적지출) ROI (Retrun On Investment) 관점에서 가장 ...