반도체 정리
Ai학습에 병렬 연산이 많이 필요해
Gpu가 많이 필요하고
기존개발자가 CUDA만써서 생태계가
NVDA가 독점함
AI가 context가 너무 길어져서 메모리가
너무너무 많이 필요하게됨
이른바 kv cache
Hbm으로하다가 램은 너무 비싸서
낸드플래시까지 가까이 쓰는 HBF도 쓰게됨
HBM 삼성전자 하이닉스
HBF 샌디스크
추론칩은 GPU + CPU 가 1대 1로 쓰임
GPU만큼 CPU도 쓰임
CPU 쇼티지
AMD INTEL 뜨는 이유
AMD GPU도 OCP기반으로 여러칩이제 동시 사용가능
추론칩은 AMD CPU GPU세트도 앞으로 많이 쓸듯
26년하반기 GPU 매출 가시화
근데... 더 중요한거는
앞으로 반도체의 키는 파운드리임
미세공정이 한계가 오고
3D형태로 가고 열줄이려고 광으로가고
메모리랑 연산칩이 통합설계로 갈려고함