GPU 대 CPU

1. GPU란 무엇인가

CPU vs GPU 역할 비교

CPU : GPU = 코어 수 수십~100개 : 수천~만 개 코어
성능 높음 (복잡한 판단) : 낮음 (단순 계산)
특기 순서 있는 복잡한 일 단순 계산 대량 병렬
SAP 비유 다이얼로그 워크프로세스 : 배치 병렬 처리

AI 추론 처리 흐름 (CPU-GPU 핑퐁 구조)

질문 입력
  → CPU (어떻게 처리할지 판단 + 교통정리)
  → GPU 수천 개 (행렬 계산 대량 병렬 — 이게 핵심 추론)
  → CPU (결과 취합 → 말이 되는 문장으로 구성)
  → 답변 출력

• GPU는 저장소가 아니라 계산기

• HBM 메모리 = GPU 바로 옆 책상 (데이터 저장은 여기)

• GPU가 커질수록 HBM도 같이 커져야 병목이 안 생김

Vera Rubin 랙 구성 (냉장고 크기 하나 = $7.8M)

GPU 수십 개...