Apple Silicon과 HBM

저의 생각을 두괄식으로 적어본다면 감히 "아니다"라고 말씀드릴수 있습니다. 세상에 영원한 제국, 기업은 없으니 당연히 천하의 nVidia와 SK하이닉스가 주도하는 HBM도 언젠가는 꺼지지 않겠느냐? 라는 일반적인 접근이 아닌 산업 특성을 고려한 이야기로 풀어보도록 하겠습니다. nVidia의 GPU는 GPGPU (General Purpose) GPU이다 CUDA library를 기반으로 AI 세계를 평정한 nVidia의 GPU는 사실 General Purpose AI 가속기에 가깝습니다. 물론 일반적인 CPU에 비해 여러가지 AI에 특화된 연산 모듈을 하드웨어로 때려넣은 GPU 입니다만, 여러가지 애플리케이션이나 산업 세그먼트에 완전히 특화된 것은 아닙니다. 모든 시스템 반도체 칩들은 특정 기능을 수행하기 위해 Software - Hardware partitioning을 기획단계에서 합니다. 이때 Software 로 처리하는 기능이 많아지만 flexibility는 높아지지만 성능 (속도, 전력)은 그만큼 떨어지고 Hardware 부분이 많아지면 flexibility는 엉망이 되지만 성능은 극적으로 좋아지게 됩니다. 예를 들어보자면, 그림을 그려주는 AI의 핵심 알고리즘이 A이고, 텍스트는 B, 동영상은 C라고 한다면, nVidia의 GPU는 A, B, C 알고리즘의 교집합 부분만 Hard-wired 형태로 구현하고, A, B, C 알고리즘이 서로 다른 부분은 Software로 처리를 합니다. AI기술이 하루가 다르게 발전해 나가고 있는 현 시점에서는 이 방식이 맞습니다. 하루가 다르게 적용 알고리즘이 바뀔수 있고 개발단에서 여러가지 실험을 해야 하기 때문이죠. 하지만, 어떤 특정 애플리케이션이나 산업 영역에서 AI 알고리즘이 거의 Fix 가 되었다면? 이때는 거의 대부분의 알고리즘을 Hard-wired 로 구현한 전용 칩 (ASIC)이 가격, 성능, 전력 등 모든 면에서 압도할수 있게 됩니다. 특히나 Learning이 아닌 Inference 단계라면 말할것도 없지요. 그래서 최근들어 점차 어떤 한 영역에 특화된 AI 칩을 만드는 업체들이 등장하기 시작했습니다. 하나 소개해 드리자면 한국의 리벨리온(Rebellions)사의 ION 칩셋은 HFT (High Frequency Trading)에 특화된 칩셋입니다. 이런식으로 수만은 ...

타 커뮤니티에 제가 올렸던 글을 옮겨와 봅니다 =============================================================================== 안녕하세요, Pazz 입니다. 삼성전자는 오늘 52주 최저가를 찍었네요. PBR = 1.03 으로 역사적으로 보아도 메모리 다운턴시 거의 바닥 수준에 근접한 밸류에이션 입니다. 반면 하이닉스는 사상 최대의 실적을 찍고 오늘같이 코스피가 하락한 날에도 올랐지요. 저는 오래전부터 삼성전자를 좋아했고, 또 실제로 제 포트에서 가장 큰 비중을 차지하는 회사인데 최근의 주가 향방을 보면 저도 참 마음이 아프네요. 삼전이 이리 헛발질을 할 줄 몰랐던 제 자신에게도 반성이 되기도 하고요. 하지만 여전히 장기투자자로서 아직은 삼전에게 충분히 기회가 있다고 생각하고, 이에 대해서 제 생각을 FAQ 형태로 적어볼까 합니다. 1. 메모리 반도체의 다운턴은 시작되었는가? 얼마전 골드만과 모건이 메모리 다운턴 보고서를 낸 것이 삼전과 하닉 주가 하락의 시작점이었죠. 그들의 논지는 HBM시장 자체가 거품이어서 내년에 HBM물량이 줄면서 레거시 메모리 생산으로 돌아갈테니 oversupply로 메모리 시장의 본격적 다운턴이 시작될 것이다라는 논리였습니다. 재미있는건, 그 후속 리포트에서 점점 HBM에 대한 숫자를 상향 조정하고 있다는 점이죠...  최근의 nVidia, TSMC, SKH 등의 실적 발표를 보아도 어디서도 HBM시장이 내년에 안좋을 거라는 조짐이 보이지가 않습니다. 저도 사실 얼마전까지만 해도 HBM 시장의 거품에 대해서 이야기 했었는데, AI 거인들의 실적 발표와 추세를 보면서 지금은 생각을 조금 바꾸었습니다. 앞으로 2~3년간은 HBM시장이 지속적인 성장을 하면서 메모리 시장의 상당량을 가져갈 것 같습니다. 최근 자료들을 보아도 러닝 영억뿐 아니라 추론 영역에서도 더 많은 컴퓨팅 자원을 쓰면 추론의 품질이 비례하여 좋아진다는 것이 발표되었죠. 즉, 추론 영역마저도 엄청난 컴퓨팅 파워 + 메모리가 소요된다는 이야기이고, 이는 앞으로도 AI관련 반도체 시장이 좋을것이라는 이야기를 암시합니다. 그러므로 메모리 반도체의 성장세가 잠시 주춤했던 것은 일시적인 부분이고, AI서버와 모바일 중심으로 내후년 정도까지는 계속 업턴이 지속되지 않을까 생각해 봅니다. 삼전, 하닉, 마이크론으로 대변되는 메이저 3사는 중국 업체(CXMT)의 추격을 따돌리려 선단 공정으로 빠르게 전환하고 있으므로  여러곳에서 이야기하는 중국업체에 의한 여파는 PC 시장, DDR4 시장과 같이 로우엔드 시장에 국한되어 실제 메이저 3사에 미치는 영향은 걱정만큼 크지 않을것이라고 봅니다. 2. 최근 삼전의 패착은 어디서부터 잘못된 것인가? 저도 삼전 내부자가 아니기 때문에 정확한 것은 알수 없습니다만, 제가 지금까지 공부하고 이해한 바를 가지고 설명을 해보도록 하겠습니다. 일단, 삼전이 몇년전부터 추구하는 방향이 원가 절감에 의한 이익률 극대화였습니다. 이를 위해 무리하게 신공정 (EUV 도입 등)을 도입하고, Netdie (웨이퍼당 칩 갯수)를 늘리는 방향으로 개발을 드라이브하다보니, 수율이 떨어지고 제품 성능이 안나오는 문제점들이 DDR5 제품 부터 등장하게 되었습니다. 보통 메모리 개발의 프로세스를 보면  DDR5 core tech 를 먼저 개발하고, PC나 모바일향 제품을 처음 개발합니다. 이 제품으로부터 서버, ...