프리미엄
예측대회
투자분석
아카데미
커뮤니티
Valley AI 시작하기시작하기
Valley Space인기
CPO 발전 흐름, 그리고 CPO와 LPO 차이점
하루를 꾸준히 쌓기메모

CPO 발전 흐름, 그리고 CPO와 LPO 차이점

avatar
하루공부
2026.01.28조회수 440회
avatar
하루공부
구독자 323명구독중 49명
성장 아카이브 (오류 지적은 항상 감사하게 생각합니다 1. 완벽보다 끝내는 것이 낫다. 2. 복잡함보다 단순한 것이 더 낫다. 3. 통제 불가능한 변수보다, 내가 통제할 수 있는 변수에 주목한다. 4. 나는 강경 결정론(Hard Determinism)에 반대하지만, 스토아 철학을 존중한다. 내가 할 수 있는 '루틴과 다수시행'에 주목한다. 그리고 적절한 '자기 통제'에 힘쓴다. 5. 그것이 나의 삶에 비대칭성을 만들어줄 거라 믿는다.

1. CPO란?

CPO(Co-Packaged Optics)란? 한국말로 직역하자면 '공동 패키지 광학??'이라고 할 수 있습니다. 현재 시장에서 CPO는 데이터 센터 내 고성능 스위치, 또는 GPU 및 CPU와 같은 연산 칩 바로 옆에 광학 엔진(Optical Engine)을 하나의 패키지로 묶는 기술을 말합니다. 기존 데이터 센터 내부는 전기 신호를 빛의 형태로 바꿔 빠르게 주고 받았습니다. CPO는 이러한 데이터 흐름을 빛의 형태로 더 빠르게 주고받기 위해 만들어진 차세대 반도체 패키징 기술을 말합니다.

2. CPO 등장 배경

datacenter-rate.webp

위 이미지는 2024년에 네트워크 속도의 발전을 예측한 그래프입니다. 한편 현재 데이터 센터 내의 네트워크 속도는 1.6T(8X200G)까지 기술 진보가 빠르게 진행되고 있습니다. 이와 관련된 대표적인 기업은 바로 $AVGO $MRVL 입니다. 두 기업의 200G serDes 기술의 안착을 생각보다 빨랐는데요. 그 결과 200G/lane DSP가 이미 양산 단계에 접어들었고, 1.6T 시대를 맞이할 수 있게 되었습니다. 한편으로 3.2T-XD (16x200G)는 현재 연구실 단계를 넘어 시제품(Prototype) 및 초기 검증 단계에 있습니다. 이를 미뤄볼 때, CPO 기술의 도입이 예상보다 빠르게 검토되고 있습니다.


그렇다면 네트워크 속도의 증가와 CPO는 어떤 연관성이 있을까요? 기존에는 광모듈과 칩들이 따로따로 있었습니다. 즉, 전기 신호를 빛으로 전환하는 장치가 연산 칩과 멀리 떨어져 배치된 구조였습니다. 이로 인해 두 부품 사이를 PCB 위의 구리 배선으로 연결해야만 했습니다. 문제는 데이터 전송 속도가 고속화될수록 발생합니다. 전기 신호가 구리 배선을 통과할 때 발생하는 신호 감쇄와 왜곡이 심해지기 때문입니다. 이를 보정하기 위해 더 많은 전력을 소모하여 신호를 증폭시켜야 하며, 이는 곧 막대한 에너지 소비와 발열 문제로 직결됩니다. CPO는 이러한 물리적 거리를 극대화로 줄여 전력 효율을 개선하고 신호 손실을 최소화하는 차세대 솔루션입니다.


현재 기술은 1.6T까지 발전했고, 곧 3.2T에 도달할 것으로 예상되면서 전력 소모 문제는 더욱 두드러졌습니다. CPO의 초기에서는 상당한 전력 절감 효과를 보여주었으며, 이는 플러그형 광모듈 대비 최대 4배의 에너지 효율을 보였습니다. 향후 1.6Tbps, 3.2Tbps 이상의 네트워킹 아키텍처에 CPO 도입은 필수적이며, 그 중요성은 더욱 중요해질 것으로 보입니다.

3. CPO 혁신 순서

3.1. 먼저 전력 장벽이라는 한계에 부딪힌 이너넷 스위치

image.png

위 사진은 AI 데이터 센터 붐이 본격화되기 전, 클라우드 서비스를 위해 설계된 현대적인 이더넷 스위치입니다. 2010년대 후반부터 널리 사용된 이 장비들은 전통적인 플러그형(Pluggable) 광모듈 방식입니다. 하지만 이러한 네트워크 구조는 곧 '물리적 한계'에 직면하게 됩니다. 그 주요 문제는 3가지입니다.

QSFP-DD.webp
  • 첫째, 당시 찾아온 102.4Tbps 시대에는 800G 모듈 128개가 필요했습니다. 그래서 위 사진과 같은 광모듈을 꽂아야합니다. 그런데 문제가 발생합니다. 표준 규격 스위치의 전면에는 128개만큼의 모듈을 꽂을 물리적 공간이 절대적으로 부족합니다.

  • 둘째, 스위치는 겉보기에 단순한 공유기처럼 보입니다. 예를 들어 공유기의 크기를 생각해보세요. GPU 신호가 지나가는 관제소가 10~20cm를 이동해야 합니다.내부의 미세 공정에서는 수 cm의 이동 거리조차 심각한 신호 손실을 유발하는 일종의 장벽이 됩니다.

  • 셋째, 이러한 이너넷 스위치에 신호를 복구해주고, 빠르게 이동시켜주기 위해서는 고성능 DSP가 필수적입니다. 하지만 DSP는 스위치 광학 연결 전력의 30~50%를 점유할 만큼 막대한 에너지를 소모합니다.

폭발적인 데이터 처리가 요구되는 AI 시대에는 클라우드 시대보다 훨씬 심각한 데이터 병목 현상이 발생합니다. 이것이 바로 네트워크 인터커넥트의 혁신, 즉 LPO나 CPO 기술이 이더넷 스위치 단에서 가장 먼저 요구되는 핵심 이유입니다.

3.2. 첫번째 병목해결사, 이더넷 스위치(Switch)에서 시작된 CPO 혁신 : 올해 적극적으로 도입 될 것, 2020 ~ 2026

브로드컴 토마호크 6-데이비슨
A형 CPO 패키징

위 사진은 브로드컴의 최신 이더넷 스위치 칩셋인 Tomahawk 5 기반의 CPO 모듈입니다. 앞서 본 사진들과 달리 장비(= 공유기처럼 생긴 Box)가 아닌 반도체 칩이 등장했죠? 과거 네트워크 시장은 시스코(Cisco)처럼 하드웨어와 소프트웨어를 직접 설계해 비싼 완제품을 파는 회사들이 지배했습니다. 하지만 브로드컴은 이 판도를 뒤집었습니다. 브로드컴이 범용 스위치 칩을 압도적인 성능으로 만들어 내놓자, 구글이나 아마존 같은 빅테크 기업들이 굳이 비싼 시스코 장비를 살 필요가 없어진 것입니다. 브로드컴 칩을 사서 껍데기(=Box)만 씌우면 최고 성능의 스위치가 되니까요.


물론 단점이 존재합니다. 과거 이더넷 스위치는 장비 전면에 수많은 광모듈(Pluggable)을 일일이 꽂아야 했습니다. 이 방식은 유지보수는 쉬울지 몰라도, 전기 신호를 멀리 보내기 위해 막대한 전력을 낭비하고 공간을 많이 차지하는 비효율이 존재했습니다. 하지만 위 사진처럼 광학 엔진을 칩 바로 옆에 통합시킨 CPO 방식은 이 문제를 해결했습니다. 거추장스러운 외부 모듈과 복잡한 배선을 제거하고, 가장 중요한 칩과 광학 엔진을 한 몸으로 만들어 전력 소모를 50% 이상 줄이고 데이터 처리 밀도를 극대화한 것입니다. 이에 따라 2020년대에 들어서며 브로드컴과 마벨의 칩을 사용하는 것은 이제 업계의 표준 되었습니다. 흥미로운 점은, 하드웨어 생태계를 개방하며 성장한 브로드컴이 이제는 압도적 점유율을 바탕으로 ...

회원가입만 해도
이 글을 무료로 읽을 수 있어요.

Basic 7일 무료 체험 시작하기
이미 계정이 있으신가요?로그인하기
댓글 1개
메모 카테고리의 다른글

CXL (Compute Express Link)

1. CXL (Compute Express Link) 이란? 고성능 컴퓨팅(HPC) 또는 연산이 필요한 시스템에서 CPU와 가속기(GPU, FPGA 등), 메모리, 스토로지 등을 더 효율적으로 연결하기 위해 고안된 차세대 인터페이스 표준을 말합니다. 쉽게 생각해서 CPU, GPU, 메모리 등을 효율적으로 연결하는 기술 안될공학님의 영상을 토대로 정의하자면 CXL을 "CPU의 메모리 용량 부족 문제를 해결하기 위한 확장 인터페이스"로 정의합니다. CXL은 기존 서버의 CPU 옆에 꽂을 수 있는 D램 슬롯(DIMM) 개수의 물리적 한계를 극복하기 위해 만들어졌습니다. 기존의 PCIe 슬롯을 활용하여 메모리를 추가로 장착하고 용량을 획기적으로 늘릴 수 있게 해주는 기술입니다. 2. CXL 3가지 타입 CXL 정의에 대항 이해가 어렵다면, 아래의 CXL type을 읽어보시기를 바랍니다. 저는 오히려 type보고, 이해가 쉬었습니다. 2.2. CXL 1.0 또는 1.1. CXL 1은 단순한 확장(Memory Expansion) 단계입니다. 가장 초기 단계로, CPU 연산을 위한 메모리 부족으로 단순히 "D랩을 더 꽂을 수 있게 해주는 개념"입니다. CPU 1개에 CXL 메모리 장치 1개를 직접 연결하는 1:1 연결만 가능합니다. 이 말인즉슨, 'CPU(a) - CXL(a)' 매칭되며, 'CPU(a) - CXL(b)' 간의 연결이 불가능하다는 것을 의미 합니다. 이에 따른 한계로, CPU의 데이터 정보를 모아주는 스위치(Switch)를 사용할 수 없어, 복잡한 네트워크 구성이 불가능합니다. AI 데이터 센터 인프라로 적합한 기술이 아닙니다. 2.1. CXL 2.0 CXL 2.0는 메모리 풀링(Memory Pooling) 단계입니다. 1에서 2로의 가장 큰 변화는 스위치(Switch)의 도입입니다. 이로 인해 여러 개의 CPU 정보를 모아주고 처리하는 게 가능해졌습니다. 특징 메모리 풀링: A서버(CPU1)가 바쁠 땐 메모리를 많이 주고, 한가해지면 ...
메모
2026. 01. 21
8
9
245
CXL (Compute Express Link)

'26.01.07 메모

"2026년 주요 테마 5가지 - 골드만삭스" 주요 관심사. 추후 리서치할 ■ 테마 3: AI 투자의 다음 단계 다음으로, 골드만삭스는 지난 3년이 AI 인프라(반도체, 데이터센터)를 까는 시기였다면, 2026년은 AI가 실제 생산성과 물리적 세계로 확산하는 해가 될 것이라고 보았습니다. 따라서, 기존의 AI 인프라 관련주(엔비디아 등)는 여전히 성장하겠지만, 성장률 자체는 둔화할 수 있다고 보았는데요. 대신, 투자자들의 시선이 'Phase 3(소프트웨어/플랫폼)'와 'Phase 3-D(로봇/자동화)'로 옮겨갈 것으로 내다봤습니다. 그림 설명: AI 플랫폼 주식 (출처: 골드만삭스) Phase 3에서는 기업들이 AI를 실제 업무에 도입하면서 데이터베이스나 개발 도구를 제공하는 기업들의 매출이 늘어날 것으로 보았습니다. 이들 기업의 주가는 현재 3년 평균 PER보다 훨씬 낮게 거래되고 있어 가격 매력도 높다고 보았습니다. 그림 설명: 로봇 & 자동화 관련주 (출처: 골드만삭스) 이어서, Phase 3-D는 소위 '피지컬 AI'라고 불리는 AI가 물리적 세계와 만나는 지점을 의미하는데요. 2023년 초 챗GPT 등장 이후 반짝했던 로봇 관련주들은, 최근 밸류에이션 부담이 많이 낮아진 상황(PER 26배 수준)입니다. 이런 상황에서 기업 경영진들이 실적 발표에서 '로봇'과 '자동화'를 언급하는 빈도가 급증하고 있는 점도 긍정적인 신호라고 평가했습니다.
메모
2026. 01. 07
5
0

[CES 2026] 젠슨 황 연설, AI 인프라의 새로운 변화: 스토리지(Storage)

CES 2026에서 엔비디아의 CEO 젠슨 황의 연설이 있었습니다. 풀영상 링크는 다음과 같습니다: https://www.youtube.com/watch?v=JvcnxdA10-0 저는 젠슨 황이 AI 컴퓨팅의 마지막 병목 구간으로 '스토리지'를 지목했다는 사실에 주목했습니다. 젠슨 황의 말을 따르면, 스토리지 기능은 단순한 저장 용량의 확대를 넘어, 스토리지가 AI의 실시간 추론 과정에 직접 참여하는 '작업 기억(Working Memory)'으로 재정의되어야 한다고 주장합니다. 컴퓨팅 병목의 이동: 스토리지(Storage) 지난 2년간 AI 인프라 투자는 GPU의 연산 능력과 고대역폭 메모리(HBM)의 대역폭 확보에 집중되었습니다. 그 이유는 학습을 위해 고성능 연산이 요구되었기 때문입니다. 폰 노이만 구조로 인해, GPU 연산에는 메모리 반도체가 필요합니다. 이에 따라 GPU와 HBM 수요가 꾸준히 증가했습니다. 요즘 저의 관심사는 AI 추론입니다. 최근 AI 인프라는 Training에서 Inference으로 넘어가면서 '성능'보다, '짧은 응답의 지연시간, 전력효율'을 높일 수 있는 ASIC 및 광학솔루션이 중요해지고 있습니다. 그런데 젠슨 황은 LLM에서 Agentic AI로 진화하는 과정에서 스토리지의 중요성을 강조하여 신선한 충격이었습니다. 젠슨 황의 논리는 이렇습니다. 이제 Agentic AI로 진화하며 수백만 토큰에 달하는 긴 문맥(Long Context)을 처리하게 됨에 따라 새로운 문제에 직면했습니다. 즉 '컨텍스트(Context)가 새로운 병목'이라고 언급했습니다. 이를 풀어서 설명하기 위해서는 2가지 개념을 알고 넘어가야 합니다. KV 캐시(Key-Value Cache) - 대규모 언어 모델(LLM)이 텍스트를 생성(추론)할 때, 이전에 계산했던 각 토큰의 키(Key)와 값(Value) 벡터를 ...
메모
2026. 01. 07
14
2

'25년 3분기, 구글 포트폴리오

구글의 최신 포트폴리오. 미래를 엿볼 수 있는 시야를 제공하기를 바라며,, AST SpaceMobile - $ASTS : 일반 스마트폰과 직접 연결되는 저궤도 위성 통신 네트워크를 구축하는 우주 기업. Planet Labs - $PL : 소형 위성 군집을 이용해 매일 지구 전역을 촬영하고 이미지 데이터를 제공하는 기업. Arm Holdings - $ARM : 전 세계 모바일 프로세서의 기반이 되는 반도체 설계도(IP)를 공급하는 핵심 팹리스 기업. Metsera - MTSR(valley 없음) : 차세대 비만 치료제 및 대사 질환 의약품을 개발하는 바이오 기업. Revolution Medicines - $RVMD : 암 유발 단백질(RAS)을 억제하는 혁신적인 표적 항암제를 개발하는 기업. Freshworks -FSRH(valley 없음) : 기업의 고객 지원(CS) 및 IT 서비스 관리를 돕는 클라우드 기반 소프트웨어(SaaS) 기업. Tempus AI - $TEM : 인공지능과 방대한 의료 데이터를 결합하여 환자 맞춤형 정밀 진단 및 치료 솔루션을 제공하는 기업. Gitlab - $GTLB : 소프트웨어 개발부터 배포까지의 전 과정을 통합 관리하는 데브옵스(DevOps) 플랫폼 기업. UiPath - $PATH : 기업 내 단순 반복 업무를 소프트웨어 로봇이 대신 처리해주는 업무 자동화(RPA) 선두 기업. Prime Medicine - $PRME : 기존 유전자 가위보다 더 정교하고 안전한 '프라임 에디팅' 기술을 개발하는 유전자 편집 기업.
메모
2025. 12. 26
16
3

[펌] 전력 다음 병목은 ‘물’이다 💦

Valley AI의 X 계정에서 퍼왔습니다. 7월경 업로드된 내용이라서 Valley space에 업로드 되어 있지 않네요. [ 전력 다음 병목은 ‘물’이다. 1편] #AI #병목 미 백악관의 에너지 보고서와 AI 액션 플랜을 보면, 정책 수혜를 받는 모든 부문이 공통적으로 ‘물 수요’를 늘리고 있습니다. '데이터센터, 전력 발전, 반도체 제조, 인력 이동' 모두 대량의 물을 필요로 하죠. 하지만 아이러니하게도 미국의 AI 인프라는 물이 부족한 애리조나, 텍사스, 캘리포니아 등에 집중 건설되고 있습니다. 그래서 이번에는 수자원 병목이 가장 심각한 지역과 이에 따른 수혜 기업을 정리해보려 합니다. 먼저 배경지식부터 살펴봅니다. [그림 1. 미국 서부 지역의 가뭄 현황] 물 병목의 진원지는 애리조나와 텍사스 애리조나와 텍사스는 미국 반도체 리쇼어링과 데이터센터 건설 붐의 가장 큰 수혜 지역으로 꼽힙니다. 특히 텍사스는 퍼미안 분지의 셰일가스 유정 덕분에 에너지 생산의 중추 역할까지 하고 있죠. 문제는 이 두 지역 모두 수자원이 풍부하지 않다는 것인데요. 애리조나는 미국 내 가장 심각한 물 부족 지역으로, 대부분이 극심한 가뭄(D3) 또는 이례적인 가뭄(D4) 단계로 분류됩니다. 그리고 이미 콜로라도 강과 지하수에 과도하게 의존하고 있어 두 자원 모두 고갈 위기에 놓여 있죠. 텍사스는 애리조나만큼 극심하진 않지만, 수자원 수요 증가 속도가 매우 가파른 상황입니다. 또한 데이터 센터가 집중된 캘리포니아 역시 가뭄 지역으로 분류돼, 수자원 문제가 점점 더 부각되고 있습니다. [그림 2. 미국 데이터 센터 분포] 이들 지역의 물 수요 폭증 원인은 다음과 같습니다. 반도체 공장 – 웨이퍼 세척·헹굼 과정에서 대량의 초순수(UPW) 사용. 한 공장만 해도 하루 수천 톤의 물을 소모. 데이터센터 – 서버를 식히기 위한 냉각수 필요. 반도체만큼은 아니지만 여전히 깨끗한 물이 요구됨. 일부는 폐쇄 루프 액체 냉각 등 재활용 기술 도입 중. 인구 증가 – 대규모 투자 → 신규 일자리 → 이주 인구 폭증. 텍사스는 2070년까지 인구가 거의 2배로 늘 전망. 산업용수뿐 아니라 도시용수 수요까지 동반 상승. 에너지 인프라 – 공장·데이터센터 전력 공급을 위한 화력 발전소 터빈 냉각수, 셰일가스 채굴 드릴링에도 물 사용. [그림 3. 미국 파운더리 공장 분포] 그럼 미국은 왜 사막에 공장과 데이터센터를 짓나? 미국은 제조부터 S/W까지 잇는 AI 생태계 주도권을 잡기 위해 거침없이 투자하고 있습니다. 특히 트럼프는 AI 인프라 건설의 인허가 절차를 불도저처럼 밀어붙이며 속도를 내고 있죠. 그런데 한 가지 의문이 생깁니다. 왜 하필 다른 땅이 아니라 애리조나와 텍사스(+캘리포니아)에 그렇게 많은 공장과 데이터센터를 짓는 걸까요? 이 선택 뒤에는 복합적인 요인이 있습니다. 특히 반도체 제조 기업 입장에서 봤을 때, 이 지역은 필수 조건을 만족하는 몇 안 되는 곳이기 때문입니다. 자연재해에 안전하고, 인재풀, 넓은 부지·저렴한 전력, 친기업적 주 정부 정책까지 갖춘 ...
메모
2025. 12. 25
43
65
'26.01.07 메모
210
[CES 2026] 젠슨 황 연설, AI 인프라의 새로운 변화: 스토리지(Storage)
517
'25년 3분기, 구글 포트폴리오
8
502
[펌] 전력 다음 병목은 ‘물’이다 💦
avatar
swwwww
2026.01.28

결국 다 적층해버렸!! 이라는 생각이... 반도체 정말 쉽지 않네요

(수정됨)