Winway CPO 강연 정리

가스 터빈의 작동 원리, 직면한 과제, 제조 공정 및 관련 공급망 이 글에서는 가스 터빈의 작동 원리, 제조 공정, 그리고 관련 공급망 참여자들을 살펴보고자 한다. 가스 터빈은 발전소에서 전기를 생산하는 데 매우 중요한 역할을 하며, AI 수요가 급증함에 따라 전력 공급 제약이 큰 화두로 떠오르고 있다. 예를 들어, 중국의 전력 생산량은 10,000TWh를 넘어서는 반면, 미국은 약 4,000TWh 수준이다. 이는 중국이 미국보다 약 2.5배 더 많은 전력을 생산한다는 의미다. 2025년 기준, 중국 전력 생산의 54.4%는 석탄에서 나오고 있지만, 풍력과 태양광 에너지의 확대에 따라 이 비중은 꾸준히 감소하는 추세다. 한편, 미국에서는 천연가스가 40%로 가장 큰 비중을 차지하는 주요 연료원이며, 태양광과 풍력의 비중도 점차 늘어나고 있다. 그럼에도 불구하고, 미국은 전력 생산에서 중국에 뒤처져 있으며, 이는 현 정부와 과거 정부들의 무책임하고 일관성 없는 에너지 정책에 상당 부분 기인한다. 한 나라가 전 국민을 위한 전력 공급에 집중하는 동안, 미국은 AI 데이터센터를 위한 전력을 생산할 적절한 인프라조차 갖추지 못한 상황이다. 이로 인해 미국은 서둘러 가스 발전소 건설 계획을 2024년 85GW에서 2025년 252GW로, 약 3배 가까이 늘리고 있다. 2026년에는 그 수치가 295GW로 더욱 높아졌으며, 기술 유형의 41%가 가스 터빈으로 구성되어 있다. 이것이 바로 내가 가스 터빈에 주목하는 이유다. 전력 생산에 대한 이러한 수요는 더 많은 발전소 건설로 이어졌고, 제조 업체들이 현재의 주문량을 소화할 만큼 적시에 생산 능력을 확충하지 못하면서 가스 터빈 제조 분야에 병목 현상을 초래했다. 가스 터빈이란 무엇이며, 어떻게 작동하는가? 발전소의 가스 터빈은 천연가스와 같은 연료의 화학 에너지를 기계 에너지로 변환하고, 이 기계 에너지가 발전기를 구동해 전기를 생산한다. 작동 방식은 제트 엔진과 유사한데, 공기를 흡입해 압축한 뒤 연료와 혼합하여 점화시키고, 이때 발생하는 고압의 배기가스로 터빈을 회전시키는 원리다. 가스 터빈은 대형 중장비다. 예를 들어 GE Vernova, 미쓰비시 중공업, 지멘스 에너지가 판매하는 가스 터빈의 크기(길이×폭×높이)와 무게를 살펴보자. 미쓰비시 중공업 H-100 터빈: 12.1 × 4.5 × 5.4m, 175~216톤 GE Vernova 사양 비공개 — 대형 산업용 기준 약 200~400톤으로 추정 지멘스 에너지 SGT5-9000HL: 13 × 5.3 × 5.3m, 516톤 위에 소개된 터빈들은 어디까지나 예시이며, 터빈의 종류에 따라 더 크거나 작은 제품도 존재한다. https://www.youtube.com/watch?v=2Jm5RVHLlcQ 일반적으로 가스 터빈에는 3가지 사이클 방식이 사용된다: 단순 사이클 복합 사이클 재생 사이클 단순 사이클은 말 그대로 한 번으로 끝나는 방식이다. 연료가 투입되어 배기가스로 배출되면서 전기를 생산하는 가장 기본적인 방식으로, 우리가 일반적으로 떠올리는 전통적인 사이클이다. 반면 복합 사이클은 지멘스, GE, 미쓰비시가 점점 더 많이 채택하고 있는 고효율 방식이다. 복합 사이클 발전소는 폐열 회수 방식을 적용하는데, 가스 터빈에서 나오는 배기가스를 폐열 회수 보일러로 보내 회수된 열로 증기를 생성하고, 이 증기로 스팀 터빈을 구동해 추가적인 전기를 생산한다. 마지막으로 재생 사이클이다. 재생 사이클 가스 터빈은 고온의 배기가스에서 폐열을 포집하여 압축 공기가 연소기로 들어가기 전에 예열하는 데 활용함으로써 연료 효율을 향상시킨다. 이를 통해 최적의 연소 온도에 도달하는 데 필요한 추가 연료 소모량을 줄일 수 있다. 오늘날에는 복합 사이클 가스 터빈(CCGT)이 가장 널리 활용되고 있다. 가스 터빈은 공기를 작동 유체로 사용하여 연료의 화학 에너지를 기계 에너지로 변환하는 내연기관이다. 피스톤 엔진과 동일한 4가지 기본 단계, 즉 흡입, 압축, 연소, 팽창/배기를 따르지만, 결정적인 차이점이 있다. 피스톤 엔진은 이 4단계가 동일한 실린더 안에서 시간 순서대로 순차적으로 이루어지는 반면, 가스 터빈에서는 이 단계들이 엔진의 각기 다른 섹션에서 동시에 진행된다. 아래 설명은 항공기 엔진을 기준으로 하지만, 4단계 사이클 자체는 가스 터빈에도 동일하게 적용된다 (브레이턴 사이클). 이 과정은 다음과 같은 엔진 섹션들을 통해 이루어진다: 1. 흡입구 및 압축기 섹션 흡입 : 흡입구 섹션은 엔진 내부로 깨끗하고 원활한 공기 흐름을 공급한다. 압축 : 압축기는 공기를 흡입하여 "압축"함으로써 터빈에 고압 공기를 공급한다. 축류 압축기에서는 여러 단계의 회전 로터 블레이드와 고정 스테이터 베인을 통해 이 과정이 이루어진다. 로터 블레이드는 터빈의 기계 에너지를 가스 에너지로 변환하며, 주로 공기 속도를 높이는 역할을 한다. 스테이터 베인은 확산형 덕트 구조를 활용해 공기 속도를 낮추고, 이 속도를 더 높은 정압으로 변환한다. 디퓨저 : 최종 압축기 단계를 거친 공기는 디퓨저, 즉 고확산형 덕트로 유입된다. 디퓨저는 연소기로 들어가기 전 엔진 내에서 가장 높은 정압을 형성하기 위해 남은 공기 속도를 압력으로 변환한다. 2. 연소 섹션 (연소기) 연소 섹션에서는 연료가 분사되고 연소되어 시스템에 에너지가 추가된다. 에너지 변환: 연료의 화학 에너지가 극도로 높은 온도와 고속의 가스 에너지 형태로 변환된다. 공기 분배: 실제 연소에 사용되는 공기는 전체의 약 1/4에 불과하며, 나머지는 라이너 벽을 냉각하고 핵심 가스의 온도를 희석하여 금속 부품이 녹지 않도록 하는 데 사용된다. 전환: 연소기 후방에서는 수렴형 전환 섹션이 고온 가스를 터빈 쪽으로 가속시키기 시작한다. 3. 터빈 섹션 터빈의 역할은 고온·고압의 가스 흐름에서 에너지를 추출하여 압축기를 구동하고 출력 샤프트 동력을 제공하는 것이다. 에너지 추출: 압축기와 마찬가지로 터빈도 베인과 블레이드의 단계적 구조를 사용하지만, 순서가 반대다. 고정 베인(노즐)이 가스를 가속시키고, 회전 블레이드가 에너지를 추출한다. 에너지 재변환: 가스 에너지가 기계 에너지(샤프트 동력)로 다시 변환된다. 이 동력은 압축기를 계속 회전시키고 보조 장치나 프로펠러를 구동하는 데 사용된다. 4. 배기 섹션 터빈을 통과한 가스는 배기구를 통해 배출된다. 터빈에 의해 대부분의 에너지가 추출되었음에도 불구하고, 남은 가스는 수렴형 덕트를 통해 가속되어 작용·반작용의 원리에 따라 제트 추력을 생성하며 항공기를 전진시킨다. 위 내용이 다소 복잡하게 느껴진다면, 아래의 쉬운 설명을 참고하자. 압축기 섹션 강력한 폭발을 일으키기 전에, 공기 분자들을 촘촘하게 압축해야 한다. 엔진은 블레이드의 팀워크 시스템으로 이를 구현한다. 먼저 회전하는 블레이드 열이 고출력 팬처럼 외부 공기를 빨아들여 극도로 빠른 속도로 뒤쪽으로 밀어낸다. 각 회전 열 바로 뒤에는 고정 블레이드 열이 위치한다. 이 고정 블레이드 사이의 공간은 점점 넓어지는 깔때기 모양으로 설계되어 있다. 빠른 공기가 넓어지는 공간으로 밀려들면 자연스럽게 속도가 줄어들고, 뒤에서 계속 밀려오는 공기 분자들이 한데 뭉쳐 압축된다. 디퓨저라는 최종 병목 구간을 통과할 즈음에는 공기가 적절한 속도로 감속되어 엔진 내에서 가장 높은 압력 상태로 압축된다. 이렇게 고압으로...

Property는 하락, Casualty는 여전히 경색 Property는 왜 빠지나 출발점은 2025년이 예상보다 조용한 자연재해 해였다는 사실이다. 2026년 시장 전망 보고서들에 따르면 2025년 글로벌 보험손실은 약 1,070억 달러로, 연초 예상치였던 약 2,000억 달러를 크게 밑돌았다. 콜로라도 주립대도 중간~강한 엘니뇨 전망을 이유로 2026년 대서양 허리케인 예측치를 명명 폭풍 11개·허리케인 5개·메이저 허리케인 2개로 하향했다. 손실이 적게 나자 재보험 시장에 자본이 사상 최대 규모로 유입됐고, 이것이 가격을 끌어내렸다. 재보험 가격 하락 → 원수보험사의 재보험 비용 절감 → 원수 요율 인하 여력 확대 요율: 어느 '층'이 얼마나 빠졌나 여기서 재보험 가격과 원수 요율을 구분해야 한다. 둘 다 빠지고 있지만 서로 다른 층이다. 재보험 — 부동산 대재해 ROL: 15~25% 하락. 가이 카펜터 기준 6월 1일 다수 레이어에서 위험조정 가격 15~20% 하락, 하우든 기준 무손실 프로그램은 최대 25% 하락(7월 1일 전 원수 가격에 반영 중). 원수 — 상업용 부동산 요율: 약 -15%. 에온 기준 1분기 평균. 단, 산불 노출이 큰 WUI 계정은 견조한 가격 유지. ROL(Rate on Line)은 재보험 가격 지표로 원수 요율과 다른 층이다. 그리고 이 하락폭은 전부 property 한정이며, casualty 재보험은 상업용 자동차·전문직배상에서 여전히 두 자릿수 인상이 이어지고 있다. 업계 전망은 property 요율 하락이 2026년 3분기쯤 진정될 것으로 본다(특히 공유·레이어·대재해 계정 중심). Casualty는 왜 여전히 hard한가 방향이 갈린다는 점이 핵심이다. 한 업계 데이터에서는 2025년 1분기에 상업용 보험 가격이 2018년 이후 처음 하락했는데, property가 약 9% 빠진 반면 casualty는 약 12% 올랐다. 원인은 social inflation 1,000만 달러 이상의 거액 배심 평결, 제3자 소송펀딩, 배상이론 확대다. 가장 스트레스가 큰 라인은 상업용 자동차배상이다. 최근 2년간 업계가 100억 달러 넘는 언더라이팅 손실을 흡수했고, 평균 클레임 심도는 2015년 대비 2배 이상으로 뛰었다. 여기에 준비금 문제가 겹친다. 업계는 손실 추세를 반복적으로 과소추정해 왔고, 그 결과 사후에 준비금을 추가 적립하는 일이 이어지고 있다. 2025년 상업용 자동차에서만 약 16억 달러의 추가 적립이 발생했으며 대부분 2022~2023 사고연도에서 나왔다. 준비금이 계속 부족하게 잡히는 한 요율 인상 압력도 지속된다. 반대로 산재는 12년 연속 합산비율 100% 미만으로 유일한 밝은 구석이다. 전체 시장 숫자 성장은 둔화하지만 수익성이 무너지는 것은 아니다. 스위스리는 2026년 미국 P&C 보험료 성장률을 4%로(2025년 5.5%에서 둔화) 전망하면서, ROE는 양년 모두 약 10% 수준을 유지할 것으로 ...

내가 왜 'AI 병목현상'을 구축했는지, AI 인프라 구축의 실체가 실제로 어디에 기반을 두고 있는지, 그리고 현재 금융 시장에서 가장 흥미로운 이야기가 왜 모든 이들이 주목하는 곳보다 다섯 단계 아래에서 벌어지고 있는지에 관한 긴 편지다. 나는 처음부터 웹사이트를 만들겠다는 생각으로 시작하지 않았다. 많은 사람과 마찬가지로, 나 역시 AI 진영에서 실제로 무슨 일이 일어나고 있는지 이해하려는 시도에서 출발했다. 데모 영상이나 출시 관련 트레드, 6주마다 순위가 뒤바뀌는 모델 리더보드 같은 것 말고, 그 모든 것의 밑바닥에 있는 본질을 알고 싶었다. 바로 물리적인 실체다. 가상 세계가 아닌 현실 세계의 웨이퍼와 광섬유, 콘크리트, 그리고 전력으로 어떻게든 전환되어야만 하는 연간 7,000억 달러에 달하는 하이퍼스케일러의 설비투자 말이다. 그 실타래를 길게 잡아당길수록 풍경은 기묘해졌다. 거의 모든 이들이 똑같은 다섯 개 기업만을 이야기하고 있었다. 그 아래에 숨겨진 레이어에 대해서는 아무도 말하지 않았다. 그리고 진짜 제약 조건들은 바로 그 아래 레이어에 존재하고 있었다. 클라우드 속도, 인공지능 모델도, 기조연설 슬라이드 안에도 없었다. 전 세계 대부분의 사람들이 들어본 적도 없는 수천 명의 엔지니어가 운영하는, 몇 안 되는 도시의 몇 안 되는 건물 내부에 있었다. 내가 EUV 웜홀에 빠진 날 밤 나는 이 일이 단순한 흥미를 넘어 집착에 가까운 무언가로 변한 순간을 정확히 기억한다. 늦은 밤, 나는 왜 중국이 수천억 달러를 쏟아붓고도 최첨단 칩을 만들지 못하는가에 대한 글을 읽고 있었는데, 그 답은 업계 외부 사람들은 거의 들어본 적도 없는 벨트호벤이라는 네덜란드 소도시에 있는 한 회사로 수렴되었다. 바로 ASML이었다. 나는 그저 기발한 특허를 가졌거나 로비를 잘하는 흔한 기업인 줄 알았으나, 전혀 아니었다. 그것은 훨씬 더 기괴한 무언가였다. 약어를 걷어내고 ASML이 실제로 파는 제품을 보면, 시내버스 크기에 가격은 약 4억 달러에 달하며, 인류가 상업적으로 제조하여 출하한 물건 중 단연코 가장 복잡한 물체다. 현대적인 칩을 식각하기 위해 이 장비는 진공 챔버 내부로 녹은 주석 미세 방울을 초당 5만 번 분사한다. 그리고 레이저가 각 방울을 두 번 타격한다. 첫 번째 펄스는 방울을 납작한 팬케이크 모양으로 만들고, 두 번째 펄스는 그 팬케이크를 태양 표면보다 더 뜨거운 수십만 도의 플라즈마 상태로 기화시킨다. 그 플라즈마는 정확히 13.5나노미터의 극자외선(EUV) 플래시를 방출하는데, 이 파장은 너무 짧아서 공기, 유리 등 일반적인 렌즈 소재로 삼으려 하는 거의 모든 것에 흡수되어 버린다. 따라서 그들은 렌즈를 사용할 수 없다. 대신 거울을 사용한다. 이 거울들은 얼마나 매끄러운지, 만약 거울 하나를 독일 전체 크기로 확대하더라도 표면에서 가장 높은 돌출부의 높이가 1밀리미터도 되지 않을 정도다. 이 거울들은 독일 남부에 위치한 자이스의 클린룸에서 만들어지는데, 이 클린룸을 짓는 데만 10년이 걸렸으며 회사는 이를 국가 기간 시설처럼 삼엄하게 보호하고 있다. 실제로 현재 국가 기간 시설이나 다름없다. 빛은 이 거울 스택에 부딪혀 반사된 뒤 실리콘 웨이퍼 위에 떨어지며 DNA 한 가닥보다 더 미세한 회로를 새겨넣는다. 그동안 웨이퍼 자체는 초당 수 미터의 속도로 움직이고 있으며, 자석으로 공중 부양된 스테이지에 의해 원자 몇 개 수준의 오차 범위 내에서 정렬이 유지된다. 이 문장의 모든 단계가 마치 지어낸 이야기처럼 들리겠지만, 단 하나도 거짓이 없다. 단 한 대의 EUV 장비를 생산하는 공급망에는 대략 5,000개의 공급업체가 존재한다. 광원은 ASML이 다른 곳에서는 도저히 성공시키지 못해 직접 인수해야 했던 캘리포니아 기업에서 온다. 진동 격리 시스템은 뉴욕주 북부의 또 다른 회사에서 만든다. 광학 부품은 독일에서 오고, 웨이퍼와 감광액은 일본에서 온다. 최종 조립은 네덜란드에서 이루어지며, 고객들은 대부분 대만과 한국에 있다. 지구상의 그 어떤 단일 국가도 이 장비를 독자적으로 만들 수 없다. 근처에 가지도 못한다. 이는 가장 문자 그대로의 의미에서 '행성적 인공물'이다. 인류라는 종이 집단적으로, 어쩌면 거의 우연히 만드는 법을 깨달은 물건이다. 나는 한동안 그 사실을 곱씹었다. EUV의 존재 자체에는 진정으로 감동적인 무언가가 있다. 다른 나라에 있는 누군가가 이메일을 더 빨리 쓸 수 있도록 하기 위해서, 레이저를 주석 방울에 쏘아 기화시켜 인공 태양광을 만들고, 인류가 연마한 그 어떤 것보다 매끄러운 거울에 반사시켜 바이러스보다 미세한 회로를 그리는 기계다. 최종 제품을 사용하는 대부분의 사람은 이것이 존재하는지조차 모를 것이다. 부품을 만든 대부분의 사람 역시 최종 조립된 기계를 보지 못할 것이다. 그럼에도 공급망은 유지된다. 해가 바뀌어도, 웨이퍼가 바뀌어도 지속된다. 이러한 공급망을 처음부터 끝까지 한 번 보고 나면, 다시는 이전으로 돌아갈 수 없다. 방 안의 모든 물건을 바라보며 "이 물건의 EUV는 무엇일까" 생각하게 된다. 거의 존재하기 힘들 것 같은 기묘한 장소의 그 기묘한 한 단계가 무엇인지, 그리고 그것이 없다면 나머지 전체가 어떻게 무너질지 궁금해진다. 당신의 주머니 속 스마트폰에는 그런 단계가 최소 수십 개가 있고, 밖에 세워둔 자동차에는 수백 개가 있으며, 당신의 이메일 편지함의 자동 완성 기능을 작성한 모델을 학습시킨 데이터센터에는 수천 개가 존재한다. 이 관점에서 보면 문명은 매끄러운 표면이라기보다는, 거의 아무도 주목하지 않는 몇 가지 버팀목 같은 기적들에 의해 지탱되는 거대한 성당처럼 보인다. 소수의 좁은 길목들 AI 공급망을 충분히 오랫동안 들여다보면 하나의 패턴이 보이기 시작한다. 스택 최상단에 있는 시끄럽고 비싼 모든 것들은 그 아래에 있는 더 조용하고 훨씬 작은 무언가에 기대어 존재한다. 최첨단 프론티어 모델은 GPU에 의존한다. GPU는 인터포저 위에 고대역폭 메모리 스택들이 접합된 패키징된 다이에 의존한다. 인터포저는 대만의 CoWoS 생산 캐파에 의존한다. 고대역폭 메모리는 유럽의 한두 기업이 만드는 하이브리드 본더에 의존한다. 랙 사이로 데이터를 이동시키는 트랜시버는 가동 주기가 이주일씩 걸리는 용로에서 키워낸 인듐 인화물 웨이퍼에 의존한다. 그리고 이 전체 시스템은 이 모든 것을 위해 설계된 적이...

AI 클러스터들이 구리선 위에서 한계에 직면하고 있다. 백엔드 패브릭이 800G에서 1.6T, 그리고 3.2T로 치솟음에서 따라, 제약 조건은 더 이상 얼마나 많은 GPU를 살 수 있느냐가 아니라 그 GPU들 사이에서 얼마나 저렴하게 데이터를 이동시킬 수 있느냐가 되었다. 이것이 다음 초크포인트로서 광학 기술이 주목받는 이유이며, 이 문제가 어디서 가장 먼저 타격을 입히는지에 대한 지도다. 그림 1. AI 백엔드 네트워크의 랙 규모 조감도. GPU들은 스위치 칩을 통해 동기화된다. 비용이 많이 들고 고장이 나기 쉬운 구간은 스위치 칩과 광학 소자 사이의 고속 전기 경로다. 포토닉스 기술은 이 광전환 위치를 실리콘 칩에 더 가깝게 이동시켜 해당 경로를 축소한다. 차세대 AI 팩토리는 누군가 GPU가 부족해서 멈춰 서는 일은 없을 것이다. GPU들이 서로 충분히 저렴하고, 조밀하며, 안정적으로 통신할 수 없어서 멈추게 될 것이다. 이번 사이클의 대부분 동안 시장은 컴퓨트)만 응시했다. GPU가 눈에 보이는 첫 번째 대상이었고, 고대역폭 메모리(HBM)가 두 번째, 전력이 세 번째였다. 그러나 클러스터 규모에서 보면 이 머신은 가속기 더미가 아니다. 컴퓨터의 탈을 쓴 '통신 시스템'이다. 모든 학습 실행, 모든 가중치 전문가 혼합(MoE) 라우터, 모든 장기 콘텍스트 추론 작업, 그리고 모든 에이전트 루프는 칩과 랙, 열 사이, 때로는 사이트(데이터센터) 간에 트래픽을 발생시킨다. 시스템이 커질 수록 비트를 이동시키는 순수한 물리적 행위 자체가 시스템의 확장을 가로막는 제약 요인이 된다. 구리선은 초기에 구축을 주도할 수 있었는데, 저렴하고 정비하기 쉬우며 짧은 거리에서는 탁월하기 때문이다. 그러나 네트워크가 400G에서 800G, 1.6T 그리고 그 이상으로 치솟으면서, 구리는 인프라라기보다는 발목을 잡는 '항력'처럼 보이기 시작한다. 고속 전기 신호는 손실, 반사, 누화, 열, 커넥터, 거리를 버텨내야 한다. 해결책은 언제나 무언가를 '더' 투입하는 것이다. 더 많은 이퀄라이징, 더 많은 리타이머, 더 많은 DSP, 더 많은 전력, 더 많은 냉각, 더 거대한 케이블 부피가 그것이다. 어느 시점에 이르면 네트워크는 전기 신호가 전면 패널에 도달할 때까지 살아남을 수 있도록 유지하는 데에만 대부분의 에너지를 쓰게 된다. 포토닉스는 문제의 단위를 바꾼다. 신호는 빛이 되고, 광섬유는 고속도로가 되며, 비용은 상류 레이어인 레이저, 광학 집적 회로(PIC), 인듐 인화물(InP), 실리콘 포토닉스 웨이퍼, 광섬유 접합, 테스트 및 랙 유지보수성으로 이동한다. 이것이 전체의 변화를 한 문장으로 요약한 것이다. AI 스택은 "우리가 얼마나 많은 칩을 살 수 있는가"에서 "우리가 이미 가지고 있는 칩들 사이에서 데이터를 어떻게 충분히 이동시킬 것인가"로 이동하고 있다. 포토닉스 병목현상의 실체 포토닉스 병목현상이란 AI 클러스터가 전기적 상호연결이 제공할 수 있는 것보다 더 많은 대역폭, 도달 거리, 밀도, 에너지 효율성을 필요로 할 때 나타나는 물리적 제약이다. 작은 규모에서는 전기적 링크가 승리한다. 랙 내부에서는 구리선이 여전히 제 역할을 한다. 짧은 기판 패턴을 가로지를 때는 구리가 종종 정답이다. 하지만 AI 팩토리는 이제 더 이상 단일 랙이 아니다. 이들은 하나의 머신처럼 작동하도록 엔지니어링된 랙 그룹, 열, 포드, 그리고 멀티 사이트 시스템이다. 그 머신은 막대한 '동서향 트래픽(East-west traffic, 가속기 간 통신)'을 생성한다. GPU는 단순히 스토리지에서 데이터를 끌어와 사용자에게 답변을 돌려주기만 하는 것이 아니다. 이들은 그래디언트를 동기화하고, 액티베이션을 교환하며, 전문가들 사이로 토큰을 라우팅하고, KV 캐시 상태를 셔틀 버스처럼 나른다. 이들은 실리콘으로 가득 찬 건물이 마치 단 하나의 가속기인 것처럼 일사불란하게 협력한다. 그 결과는 단순하면서도 다소 직관에 반한다. 바로 네트워크 자체가 컴퓨터의 일부가 된다는 점이다. 엔비디아는 2025년 3월, 에너지와 운영 비용을 절감하면서 수백만 개의 GPU를 사이트 간에 연결하도록 설계된 실리콘 포토닉스 네트워킹 스위치인 스펙트럼-X 포토닉스와 퀀텀-X 포토닉스(Quantum-X Photonics)를 발표하며 이를 명확히 했다. 엔비디아는 구체적인 수치를 제시했다. 기존 방식 대비 레이저 사용량 4배 감소, 전력 효율성 3.5배 향상, 신호 무결성 63배 향상, 네트워크 회복 탄력성 10배 향상, 그리고 배포 속도 1.3배 증가를 달성했다는 것이며, 이 생태계 파트너로 TSMC, 코히어런트, 코닝, 폭스콘, 루멘텀, 센코, 스미토모 전기를 지목했다. 벤더들의 수치는 목표치로 읽어야 한다 이 글에 등장하는 벤더(엔비디아, 브로드컴, 글로벌파운드리스 등) 출처의 모든 성능 배수는 제조업체의 주장일 뿐, 독립적인 현장 데이터가 아니다. 이를 제조사가 제시한 '설계 목표치'로 취급하라. 정확한 배수가 마케팅의 영역일지라도, 전략적 방향성은 모호함 없이 명확하다. AI 분야에서 가장 중요한 인프라 기업이 광학 네트워킹을 AI 팩토리 자체에 빌트인 형태로 내장하고 있다는 사실이다. 왜 구리는 점진적으로, 그러다 갑자기 패배하는가 낮은 속도와 짧은 거리에서 구리는 경이로울 정도로 훌륭하다. 저렴하고, 익숙하며, 현장 정비가 가능하다. 조달 팀도 이를 잘 이해하고 있으며, 테크니션들이 쉽게 교체할 수 있다. 하지만 고속 전기 신호 전달은 추상이 아니다. 이는 금속 패턴, 커넥터, 기판, 케이블을 통과하는 '파동'이며, 레인 속도가 올라갈수록 이 파동은 감쇠하고 왜곡된다. 에너지를 잃고, 반사되며, 이웃한 채널로 번져나가 결국 송신된 신호와 도착한 노이즈를 구별하기가 점점 더 어려워진다. 광인터커넥트포럼의 CEI-224G 표준화 작업은 업계가 이 문제와 어떻게 사투를 벌이고 있는지 잘 보여주는 지표다. 이 프레임워크는 차세대 핵심 과제로 전력, 밀도, 성능, 도달 거리, 비용을 꼽았으며, 짧은 칩-투-옵틱스 홉부터 플러거블 광학, 백레인, 패시브 구리선, 리니어 광학 모듈에 이르기까지 224G 전기 인터페이스의 구체적인 도달 거리 범주를 매핑하고 있다. 모든 범주는 타협의 산물이다. 도달 거리가 짧으면 이퀄라이징이 단순해지고 전력을 아낄 수 있다. 도달 거리가 길어지면 더 많은 보정 기술이 필요하다. 그리고 모듈의 유지보수성을 유지해 주는 전면 패널 플러거블 방식은 신호가 스위치 칩을 전기로 떠나 기판 패턴과 커넥터를 가로지른 뒤에야 '비로소 빛으로 변환'되도록 강제한다. 이 숨겨진 경로가 바로 레인당 200G에 도달했을 때 고통스러운 병목으로 돌변하는 구간이다. 그림 3. 도달 거리 패널티. 레인 속도가 두 배로 증가할 때마다, 고속 전기 신호가 왜곡 없이 깨끗하게 도달할 수 있는 거리는 급격히 붕괴한다. 속도의 단계가 한 계단씩 올라갈 때마다 광전환 위치는 실리콘 칩에 더 가깝게 전진할 수밖에 없다. 막대의 길이는 예시일 뿐이며 실제 축적을 반영하지 않는다. 업계에는 구리선의 수명을 연장할 수 있는 실질적인 방법들이 존재한다. 더 뛰어난 SerDes, 액티브 전기 케이블(AEC), 리타이머, 리니어 플러거블 광학(LPO), 니어패키지 광학(NPO), 개선된 기판 소재 및 커넥터 등이 그것이다. 이 중 그 어떤 것도 무의미하지 않으며, 기술이 나아가는 방향 자체를 바꾸지도 못한다. 이 기술들은 시간을 벌어줄 뿐이다. 그리고 AI 규모의 인프라 시장에서 시간은 매우 비싼 대가를 요구한다. 포토닉스가 실제로 해결하는 것 포토닉스가 데이터 이동 비용을 공짜로 만들어주는 것은 아니다. 비용이 발생하는 위치를 옮겨줄 뿐이다. 전기적 상호연결은 데이터를 금속선 전반에 걸쳐 전기 신호로 밀어낸다. 반면 광학적 상호연결은 데이터를 빛에 인코딩하여 광섬유나 도파로를 통해 이동시킨다. 광섬유와 도파로는 데이터센터 내부 수준의 거리에서 손실률이 훨씬 낮고, 가닥당 집적도가 훨씬 높으며, 고속 구리선을 파괴하는 거리 패널티에 대한 민감도가 훨씬 낮다. 이로 인해 발생하는 이득과 타협점은 각 레이어마다 다르게 나타난다. 그 마지막 행(CPO)이 바로 공동 패키징 광학(Co-packaged optics) 기술이 논쟁의 중심이 된 이유다. CPO는 광학 엔진을 스위치 칩이나 가속기 패키지 바로 옆으로 이동시킨다. 고장 나기 쉽고 취약한 고속 전기 신호를 전면 패널까지 긴 기판 경로를 따라 밀어내는 대신, 실리콘 칩 근처에서 곧바로 빛으로 전환하는 것이다. 이로 인해 전기적 이동 거리는 센티미터(cm) 단위에서 밀리미터(mm) 단위로 축소되며, 광학 경로가 훨씬 더 이른 단계에서 바톤을 이어받는다. 이는 단순히 네트워킹의 변화만을 뜻하지 않는다. 패키징의 이야기이자, 테스트의 이야기이며, 현장 유지보수성의 이야기다. 그리고 바로 이 지점들이 진짜 병목현상이 시작되는 ...

존 폰 노이만 사후 80년이 지난 지금도 버스는 여전히 버스일 뿐이며, 현대의 트랜스포머 추론은 엔지니어링 기술로 우회할 수 있는 한계를 넘어 이 버스를 쥐어짜고 있다. 1945년, 존 폰 노이만은 프로세서와 메모리가 분리된 물리적 단위로 존재하며 버스로 연결되는 컴퓨터 아키텍처를 기술한 보고서 초안을 발표했다. 프로세서는 명령어나 데이터 조각을 가져오고, 연산을 수행한 뒤, 그 결과를 다시 메모리에 기록한다. 계산의 모든 단계는 버스를 가로지르는 왕복 여정을 요구한다. 그 버스가 바로 '폰 노이만 병목현상'이다. 이는 프로세서가 연산할 수 있는 속도와 메모리가 데이터를 공급할 수 있는 속도 사이의 간극을 의미한다. 1950년대 이후 제작된 모든 범용 컴퓨터는 이 아키텍처 내부에서 살아왔다. 현재 출하되는 모든 GPU, 모든 TPU, 모든 주문형 AI 가속기 역시 마찬가지다. 원제작 논문이 나온 지 80년이 지난 지금 이 문제가 다시 중요해진 이유는, AI 워크로드가 전통적인 엔지니어링으로 숨길 수 있는 수준을 넘어 이 병목현상을 극단까지 늘려놓았기 때문이다. 인공지능의 가격은 더 이상 칩이 초당 수행할 수 있는 부동소수점 연산 횟수(FLOPs)에 의해 결정되지 않는다. 메모리를 칩의 연산 장치 내부로 얼마나 빨리 이동시킬 수 있느냐에 의해 결정된다. 나는 대규모 추론을 실행하는 현업에 있다. 아래의 수치들은 내가 비용 청구서에서 직접 확인하는 것들이다. 그 어떤 것도 투자 권유가 아니다. 이 모든 내용은 현업 엔지니어가 토큰 하나의 가격을 매길 때 살펴보는 지표들이다. 폰 노이만 병목현상의 실체 현대의 AI 가속기를 예로 들어보자. 엔비디아 H100은 이론적으로 초당 약 1,979조 번의 부동소수점 연산(FP16 처리량)을 수행할 수 있다. 반면, HBM3 스택과의 메모리 대역폭은 초당 3.35테라바이트(TB/s)다. 이 두 수치는 서로 균형이 맞지 않는다. 가공되지 않은 순수 연산 측면에서 보면 연산단이 메모리단보다 대략 600배 빠르다. 연산 장치를 쉬지 않고 돌리려면, 메모리에서 가져온 모든 바이트가 다음 바이트가 도착하기 전까지 평균적으로 수백 번 이상 재사용되어야 한다. 이를 '산술 연산 밀도'라고 부른다. 이는 메모리 액세스 횟수 대비 연산 횟수의 비율을 뜻한다. 만약 워크로드의 산술 연산 밀도가 칩의 연산 처리량 대 메모리 대역폭의 비율보다 낮아지면, 칩은 멈춰 서게 된다. 연산 장치들이 데이터를 기다리며 노는 것이다. 당신이 3만 달러를 지불한 칩은 이론상 성능의 5~15% 수준으로만 작동하게 된다. 현대의 트랜스포머 추론, 특히 긴 문장을 자기회귀 방식으로 생성하는 작업은 산술 연산 밀도가 최악이다. 모델은 토큰을 하나 생성할 때마다 메모리로부터 모든 파라미터를 새로 로드해야 하며, 계속 늘어나는 KV 캐시 전체를 읽어내야 한다. 파라미터당 연산량은 작다. 반면 요구되는 대역폭은 엄청나다. 이것이 바로 GPU를 통해 발현되는 폰 노이만 병목현상이다. 아키텍처는 1945년 이후로 바뀌지 않았다. 바뀐 것은 워크로드다. 왜 AI가 이 병목현상을 다시 수면 위로 끌어올렸는가 수십 년 동안 폰 노이만 병목현상은 실제 엔지니어들이 우회 기법을 통해 해결하던 교과서적인 문제에 불과했다. CPU의 캐시 용량은 커졌고, 컴파일러는 프리페치 능력이 향상되었다. 메모리 계층 구조는 더 촘촘해졌고(L1, L2, L3, DRAM), 버스는 빨라졌다. 그러나 AI 워크로드는 다음과 같은 여러 이유로 인해 이 모든 우회 기법들을 한꺼번에 무력화했다. 첫 번째 이유는 모델의 크기다. FP16 포맷의 700억 개 파라미터(70B) 모델은 크기가 140기가바이트(GB)에 달한다. 이는 기존의 어떤 캐시 계층 구조에도 들어가지 않는다. 무조건 HBM(고대역폭 메모리)에 상주해야 하며, 순방향 연산이 일어날 때마다 이 거대한 데이터의 상당 부분이 연산 장치를 통과해야 한다. 두 번째 이유는 KV 캐시다. 모든 트랜스포머는 자신이 거쳐온 모든 토큰의 키와 값에 대한 실행 기록을 보존한다. 콘텍스트 창이 길어지면 이 상태 값은 세션당 수십 기가바이트로 불어날 수 있다. 10만 토큰의 콘텍스트를 대상으로 30분 동안 실행되는 현대적인 AI 에이전트 루프는 파라미터를 읽는 것보다 캐시를 읽는 데 더 많은 메모리 대역폭을 소모한다. 세 번째 이유는 배치 크기다. 학습 단계에서는 하나의 배치 안에서 수천 개의 샘플에 걸쳐 파라미터 로드 비용을 분할 상쇄하기 때문에 산술 연산 밀도가 높게 유지된다. 반면 추론, 특히 낮은 지연 시간을 요구하는 실제 서비스 환경에서는 대개 배치 크기 1 또는 32 수준에서 실행되므로 산술 연산 밀도가 무너진다. 결국 칩이 멈춰 서게 된다. 네 번째 이유는 ...