1. ASIC(맞춤형 칩)

Application-Specific Integrated Circuit

• 범용 GPU, CPU와 다르게 특정 작업 1~2개를 최고 효율로 돌리게 설계된 주문제작 칩

• 뜨는 이유

  • $ / 성능(성능당 비용): 같은 처리량을 더 싸게(특히 대규모로)

  • Watt / 성능(전력 효율): 데이터센터 전기·쿨링이 병목이라 효율이 곧 돈

  • 공급망/락인: GPU 부족이나 가격 변동에 덜 휘둘리고, 내부 워크로드에 최적화 가능

• 장점: 특정 워크로드에서 성능/전력/비용 최적화 가능

• 단점:

  • 개발비(NRE) 크고(수천만~수억 달러급도 가능), 시간 오래 걸림

  • 한 번 테이프아웃하면 수정 어려움

  • 워크로드/모델이 바뀌면 “최적화 포인트”가 흔들릴 수 있음

2. ASIC의 분리 - 학습/추론용

2-1. 기존에도 아마존같은 경우 학습, 추론용 ASIC 분리되어 있었음

• Inferentia(인퍼런시아): 학습용

• Trainium(트레이니엄): 추론용

2-2. 구글 TPU도 8세대부터 학습, 추론 분리

• 7세대(아이언우드): 학습, 추론 한번에

• 8세대 : 이제 쪼개서 나옴 -> 아키텍처 자체가 달라짐 -> AVP(어드밴스드 패키징)

  • TPU-8T

  • TPU-8I

2-3. 아키텍처 분리에 따른 변화(SRAM, AVP, 설계수요)