“AI 반도체 혁명”을 읽고

이 책은 3프로에 출연하는 권순우 기자가 네이버 이동수 클라우드 이사와의 인터뷰를 바탕으로, 본인의 취재 리서치를 덧붙여 발간한 책입니다.

저는 평소 AI 반도체 분야에 관심이 많아 이런저런 글들을 종종 찾아보는 편인데, 그 중 이동수님은 페이스북과 X를 통해 현업자가 아니면 알 기 힘든 다양한 AI 반도체에 관한 이야기를 풀어주시고, 가르쳐주시는 분이라 팔로우 하고 대부분의 글을 읽고 있습니다.

이 책은 그간 이동수님이 인터넷에 올린 다양한 글들과 많은 내용을 공유하고 있고, 거기에 추가로 반도체 기초와 역사에 관한 이야기, 네이버 클라우드가 만들고 있는 AI 반도체의 방향에 관한 내용들이 추가되어 있습니다.

권순우 작가님이 핵심 사건을 기초로 트랜지스터의 탄생부터 AI 반도체의 탄생까지의 역사를 잘 풀어내 주셔서, 앞부분은 흥미롭게 역사서를 읽는 느낌이 들어 좋았습니다. 다만, AI 반도체의 개괄적인 특징과 필요사항, 산업 전반에 대해선 많이 기술되어 있으나, 구체적으로 AI 반도체가 어떻게 동작하고, AI 알고리즘이 어떻게 동작하는지 등에 대한 구체적인 기술적 내용은 책에 포함되어 있지 않으니, 기술적 내용보다 AI 반도체에 대한 인사이트를 얻고자 하는 독자에게 더욱 알맞은 책이라고 생각됩니다. 이번 포스트에서는 AI 반도체 관련 인사이트를 얻었던 부분 몇가지를 기록해 보겠습니다. (책 원문 보다는 재해석한 내용입니다.)

1. AI 알고리즘의 끝판왕 트랜스포머 구조의 등장으로 효율적으로 병렬 연산을 하는 GPU의 구조가 더욱 빛을 발하게 되었다.

2. 트랜스포머의 경우 많은 병렬 행렬 연산이 주를 이룬다. 연산을 위하여 메모리를 불러오는 동작을 계속 반복하므로 메모리와의 통신속도가 중요하며, 모델이 커질수록 메모리 용량이 매우 중요하다. HBM 메모리는 이러한 면에서 통신속도와 용량을 모두 갖춘 현재 가장 뛰어난 메모리다.

3. 대규모 언어 모델의 학습의 경우 많은 데이터를 병렬로 학습하고, 그 결과를 GPU...