메모리 반도체 기업의 증설은 27년 1분기까지 막혀있는 상황이며, 피지컬 AI와 에이전트로 넘어가며 더욱 많은 메모리가 필요한 상황이다. 보통 증설 6개월 전부터 주가는 반영하므로, 26년에는 함부로 AI사이클의 끝을 정하지 말고 keep going!
최근 챗봇 다음으로 부각되는 AI서비스는 에이전트이다.
기존 ChatGPT는 문맥을 파악하고 답변을 생성하면 됐다.
그러나 에이전트는 추론을 통해 형성된 결과를 직접 행동하고, 결과를 반영해 다시 추론을 반복한다.
이러한 '계산 - 행동 - 행동 후 재계산'의 반복 루프는 추론 연산량의 증가를 야기한다.
외부 도구 호출이 많아지는 것은 CPU의 추가적인 연산 확대를 유발하며, HBM과 D램의 부담이 커졌다.
로봇과 자율주행은 입력 데이터가 대부분 이미지, 비디오 등 멀티 모델이라 HBM과 D램의 고용량을 요구한다.
예로, 엔비디아의 Jetson Thor(피지컬 AI)는 LPDDR이 탑재되는데, 일반적 모바일 디바이스보다 훨씬 큰 용량이 들어간다.
과거 AI초기 챗봇 개발 및 확장 시기에는 연산의 양이 매우 중요했다.
이 당시에는 베이스 모델인 자체 LLM모델 개발을 위한 기술력에 많은 투자를 진행했고, 당시 인프라 투자의 대부분은 빅테크 자체적으로 소화되는 양상이었다.
그러나 최근에는 에이전트, 피지컬AI로 넘어오며 기술력에 대한 의존도가 많이 낮아졌고(NVIDIA Cosmos와 같은 WFM이...