[오늘의 의문]
Gemini 3의 성능 향상에 TPU가 결정적인 역할을 하는 거라면 지난 10년 동안은 왜 다른 모델과 격차가 크지 않았지? 하드웨어가 핵심이 아니라 알고리즘이나, 추론 방식을 어떻게 하느냐 같은 원리가 더 중요한 거 아닌가? 아니면 스케일링 법칙이 유효하기 때문이거나, 최신 모델이 가장 성능이 좋은 현상 때문은 아닌가?
KV
2025.11.26
댓글 2개
[오늘의 의문]
Gemini 3의 성능 향상에 TPU가 결정적인 역할을 하는 거라면 지난 10년 동안은 왜 다른 모델과 격차가 크지 않았지? 하드웨어가 핵심이 아니라 알고리즘이나, 추론 방식을 어떻게 하느냐 같은 원리가 더 중요한 거 아닌가? 아니면 스케일링 법칙이 유효하기 때문이거나, 최신 모델이 가장 성능이 좋은 현상 때문은 아닌가?
좋은 인사이트 감사합니다. 더 깊게 생각해본다면, 구글 클라우드에서만 동작하는 TPU일 경우 하드웨어 능력치가 아무리 높더라도 중요한 데이터가 없다면 시간이 지나 격차가 더욱더 벌어질 수도 있겠다. 생각됩니다.
맞습니다. TPU 가 나온지 한참이 되었고 그동안 외부판매 전략에 대해서 항상 언급되었는데, 그 역사가 전용칩의 일반화가 얼마나 어려운지를 설명한다고 생각합니다. 지금에 이르러서야 엄청난 범용성이 생긴걸까요?