AI era, HBM 다음 병목 찾기 (2024-10-08, 신영증권)

Memory

• 점점 더 큰 모델을 학습하려고 하니… 학습 방법은 또 신경망 간 반복연산이니…

• GPU ↔ 메모리 대용량 데이터 전송 증가 → HBM 등장

• Memory hierarchy (Source: 신영증권)

Network

• GPU ↔ GPU / 서버 ↔ 서버 대용량 데이터 전송 증가 → network 장비 필요

• AI datacenter server diagram (Source: 신영증권)

• System approach: DPU (Data Processing Unit)

  • 단순 network 통신으로 인한 CPU 부하 해결

  • NVIDIA (NASDAQ: NVDA), Broadcom (NASDAQ: AVGO)

• Physical approach: optical interconnect

  • Optical ↔ electronic signal 전환 시 발열/전력 소모 해결

  • Optical ↔ electronic 전환 구조 물리적 통합

  • Silicon photonics

    • Fabrinet (NYSE: FN), Coherent (NYSE: COHR), Lumentum (NASDAQ: LITE), Infinera (NASDAQ: INFN), Entegris (NASDAQ: ENTG), Fujikura (TSE: 5803), Furukawa (TSE: 5801)

  • CPO (Co-Packaged Optics)

    • Broadcom (NASDAQ: AVGO), TSMC (NYSE: TSM)

빅테크 CapEx 미리보기 (2024-10-29, 다올투자증권)

• 수익화가 안됐기 때문에 CapEx 증가

  • 돈을 벌려면 돈을 부어야 함

• 2024년 $208 bn → 2025년 $231 bn (yoy +11%)

• 수익화는 단기에 어려우나 AI 기여가 증가하고 있는 양상이고

• 투자는 지속할 예정이며

• 중기적으로 AI 방향성은 지속될 예정

• 빅테크 4사 CapEx 언급 일정 및 CY3Q23 comment (Source: 다올투자증권)

• 빅테크 4사 CY1Q24, CY2Q24 comment (Source: 다올투자증권)

• 빅테크 CapEx trends (Source: 다올투자증권)

고조되는 AI 전장의 기운 (2024-10-31, 삼성증권)

Alphabet (NASDAQ: GOOGL)

• 가장 후달린다는 Gemini도 이정도로 잘나가는데 ChatGPT나 다른 model이 사용하는 cloud는 얼마나 사용량이 많을지…

• AI 수요는 확실하다

• 지금은 돈을 못 벌어도 돈을 박아야 함

• Alphabet 3Q24 earnings call comment (Source: 삼성증권)

Meta Platforms (NASDAQ: META)

• AI로 day 1부터 수익이 ...