nVidia와 HBM은 영원한가?




저의 생각을 두괄식으로 적어본다면 감히 "아니다"라고 말씀드릴수 있습니다.
세상에 영원한 제국, 기업은 없으니 당연히 천하의 nVidia와 SK하이닉스가 주도하는 HBM도 언젠가는 꺼지지 않겠느냐? 라는 일반적인 접근이 아닌 산업 특성을 고려한 이야기로 풀어보도록 하겠습니다.
nVidia의 GPU는 GPGPU (General Purpose) GPU이다
CUDA library를 기반으로 AI 세계를 평정한 nVidia의 GPU는 사실 General Purpose AI 가속기에 가깝습니다. 물론 일반적인 CPU에 비해 여러가지 AI에 특화된 연산 모듈을 하드웨어로 때려넣은 GPU 입니다만, 여러가지 애플리케이션이나 산업 세그먼트에 완전히 특화된 것은 아닙니다.
모든 시스템 반도체 칩들은 특정 기능을 수행하기 위해 Software - Hardware partitioning을 기획단계에서 합니다. 이때 Software 로 처리하는 기능이 많아지만 flexibility는 높아지지만 성능 (속도, 전력)은 그만큼 떨어지고 Hardware 부분이 많아지면 flexibility는 엉망이 되지만 성능은 극적으로 좋아지게 됩니다.
예를 들어보자면, 그림을 그려주는 AI의 핵심 알고리즘이 A이고, 텍스트는 B, 동영상은 C라고 한다면, nVidia의 GPU는 A, B, C 알고리즘의 교집합 부분만 Hard-wired 형태로 구현하고, A, B, C 알고리즘이 서로 다른 부분은 Software로 처리를 합니다.
AI기술이 하루가 다르게 발전해 나가고 있는 현 시점에서는 이 방식이 맞습니다. 하루가 다르게 적용 알고리즘이 바뀔수 있고 개발단에서 여러가지 실험을 해야 하기 때문이죠. 하지만, 어떤 특정 애플리케이션이나 산업 영역에서 AI 알고리즘이 거의 Fix 가 되었다면? 이때는 거의 대부분의 알고리즘을 Hard-wired 로 구현한 전용 칩 (ASIC)이 가격, 성능, 전력 등 모든 면에서 압도할수 있게 됩니다. 특히나 Learning이 아닌 Inference 단계라면 말할것도 없지요.
그래서 최근들어 점차 어떤 한 영역에 특화된 AI 칩을 만드는 업체들이 등장하기 시작했습니다. 하나 소개해 드리자면 한국의 리벨리온(Rebellions)사의 ION 칩셋은 HFT (High Frequency Trading)에 특화된 칩셋입니다. 이런식으로 수만은 세그먼트들에 특화된 ...

유익한 지식 공유 감사드립니다. 성능보다 비용이 우선이라는 말씀이 비단 메모리뿐 아니라 여러 투자에 앞서 생각해볼 일이네요.

모든 기업의 목적은 영리추구입니다. AI 서비스를 통해 창출할수 있는 이윤이 한계가 있는 상황에서 이익의 극대화를 하려면 가성비 있는 솔루션을 추구할수밖에 없습니다. 그것이 설사 성능이 약간 떨어지더라도 사용자에게 와닿는 부분이 큰 차이가 없다면 당연히 가성비 좋은 솔루션이 대세가 될 수 밖에 없지요. 역사적으로 보아도 훌륭한 기술들이 가성비 있는 기술에 밀려 사장된 경우는 수도없이 많습니다. 어찌 보면 이게 너무나 당연한 것처럼 보입니다.