AI의 병목은 "데이터 이동"
파빈스파
2026.02.01조회수 252회
파빈스파
구독자 14명구독중 52명
여물어가기위해 노력하겠습니다
기업 인사이트에서 $AVGO 에 대한 글을 읽고 잘 이해가 안되는 부분들을 간단히 살펴보았다. 그러던 중 CPO, LPO에 대한 글도 있었는데 이론적 배경을 모르다보니 이해가 잘 안돼서.. 최대한 단순히 나를 위해 정리해본 글
🌐 대 AI 시대에 진짜 병목은 '연산'이 아니라 ''데이터 이동'이다
✔️ 왜 병목이 연산 -> 데이터 이동으로 바뀌는가
예전 AI는 training 중심
GPU 성능이 핵심이었음 -> 연산 병목
지금은 inference 확산 + 모델 초대형화
서버/GPU 수 급증 -> 칩 간 데이터 교환 폭발
GPU가 기다리는 시간(idle)이 늘어남
GPU 유휴시간 = 데이터 센터 수익성 악화
❗️지금의 병목 = "데이터가 얼마나 빨리 오가느냐"
✔️