DRS Zone - 추월 구간(신한투자증권 노동길, 김성환, 신승웅, 강진혁 연구원)

신한투자증권 - 데이터컴 한식 뷔페 정리 ① 네트워크가 왜 빨라져야하는지 1) 시장 선점 최종 수요자인 빅테크 입장에서는 모델 학습기간이 제한되어 있다는 점도 문제. Epoch AI에 따르면 모델 학습에 6개월 이상이 소모되는 경우 경쟁사 대비 시장 선점 효과가 줄어들고, 하드웨어와 소프트웨어가 모두 쓸모 없어지게 될 위험이 존재 ② 네트워크 속도를 어떻게 높일 수 있는지 1) Scale-Up: 더 똑똑한 클러스터 단일 노드에서 더 많은 연산량을 처리하면 된다! Scale-up은 개별 칩 성능을 개선하거나 여러 칩을 엮어 하나의 큰 서버처럼 쓰는 것을 의미 2) Scale-Out: 더 많은 클러스터 Scale-out은 여러 대의 랙을 병렬로 연결해서 연산 그룹을 늘리는 것을 의미. AI 모델 학습은 수 만개의 GPU 클러스터가 서로 다른 데이터를 학습하고 이에 대한 결과를 공유하는 방식으로 이뤄진다. 즉 더 많은 GPU 클러스터(=랙)를 투입할수록 전체 연산 속도가 높아진다. 랙을 가장 효율적으로 연결하는 방법은 Spine-Leaf 아키텍처를 활용하는 것이다. Spine-Leaf 아키텍처는 랙 확장이 용이하고 모든 신호를 2 hop*만에 전달할 수 있다. Leaf 스위치는 각 랙 상단에 설치돼 해당 랙으로 오고 가는 신호를 처리하고, Spine 스위치는 Leaf 스위치 간 통신을 담당 3) Scale-across: 여러 데이터센터를 하나처럼 사용 모델이 너무 거대하면 이를 단일 데이터센터에 구현하기 어려울 수 있다. 전력 수급 이슈도 있다. 해당 지역에서 전력을 충분히 수급해올 수 없다면 지리적으로 떨어진 지역 간 데이터센터라도 연결해야 한다. 3-1) Scale-across가 중요한 이유 초거대 모델(>1T 파라미터)이 등장하면서 데이터센터 여러 개에 걸쳐 학습을 해야하는 경우가 생기고 있다. 이들 데이터센터 간에도 gradient를 빠르게 주고 받아야한다. 한편 이들 모델은 파라미터만 수백 GB~TB에 달해 추론 서비스를 제공하려해도 하나의 데이터센터에 모델 전체를 복사해놓기 어려울 수 있다. 전 세계 수 백만 사용자 요청에 빠르게 응답하기 위해서는 서버를 물리적으로 사용자 가까이에 두어야한다. 즉 모델을 여러 지역과 서버에 복제해 놓고 트래픽을 분산 배치해야한다. 문제는 AI 모델은 파일 크기가 크고 업데이트 주기가 짧다는 것이다. 원활한 배포(=동기화)를 위해서는 Scale-across 인프라를 구현해놓는 것이 효율적 4) InfiniBand vs. Ethernet: 통신 규약 측면에서 일반적으로 AI 데이터센터는 Scale-up에 NVlink를, Scale-out에 인피니밴드(InfiniBand)를 채택. 인피니밴드의 상대 개념이 이더넷이다. 이더넷은 범용적이지만 통신 과정에서 CPU가 패킷을 여러 번 복사해 AI 학습에는 적합하지 않다. 예를 들어 유튜브 시청을 하는 동안 카카오톡 채팅을 한다고 상상해보자. 이더넷 NIC(네트워크 칩)가 ...

뭐하는 기업이지? Astera Labs는 미국 실리콘밸리에 본사를 둔 글로벌 팹리스 반도체 기업으로, AI 인프라에 필요한 맞춤형 연결(Connectivity) 솔루션을 제공 텍사스 인스투루먼트 출신 엔지니어 3명이 2017년에 설립. 2024년 3월 IPO AI 서버, 데이터센터, 클라우드 인프라에서는 GPU·CPU·ASIC 같은 가속기들이 방대한 데이터를 주고받아야 하는데, 이 과정에서 신호 지연·손실을 최소화하는 기술이 필수적이다. Astera Labs는 바로 이 지점에서 차별화를 만든 회사. Astera Labs는 하드웨어(PCIe, CXL, Ethernet)와 자체 소프트웨어 플랫폼(COSMOS)을 함께 제공하여, 데이터센터 운영자들이 확장성·성능 최적화를 동시에 달성할 수 있도록 지원. 주요 제품군 Astera Labs는 AI 인프라의 데이터 흐름을 원활히 만드는 다양한 제품을 보유. Scorpio: AI 서버 및 클러스터 연결용 패브릭 스위치. 흩어진 데이터의 경로를 잡아주는 교통 관제 역할을 하는 스위치 칩으로, 병목 현상 해결에 중요 → GPU, CPU, ASIC 등 다양한 칩을 연결해주는 PCIe 기반 스위치로, Scale-Up(단일 서버 성능 확장)과 Scale-Out(서버 간 확장) 모두 지원. → AWS Trainium(NeuronLink), AMD MI400(UALink)과 연동되는 차세대 제품 준비 중. → 미아 찾기처럼 흩어진 데이터를 제자리로 돌려보내는 역할 Aries: PCIe/CXL 데이터 전송을 위한 리타이머(Retimer). → 고속 데이터 신호의 손실을 보정하고 복구하는 중계 칩. → 엔비디아 Blackwell GPU 플랫폼의 PCIe 6.0 리타이머 독점 공급자로 자리 잡음. → 시장 점유율...

AI 모델의 복잡해지면서 데이터 처리 병목에 따른 지연 문제가 심화되고, 이를 해결하는 데 있어서 중앙집권적인 데이터센터보다는 여러 지역에 분산되고 사용자에 인접한 데이터센터가 유리.이에 따라 최근 하이퍼스케일러가 네오클라우드를 Scale across의 수단으로 활용하는 현상 두드러지며 네오클라우드 비즈니스의 성장 가속 기대 기존에 AI 모델의 성능 향상(할루시네이션 현상 제거)를 위해 활용하던 RAG 기술이 Agentic AI 시대에 이전보다 보수적으로도 2.5배~8배, 연산 난이도가 높아지면 수십배~수백배 더 많은 데이터 스토리지 요구 AI 인프라 시장은 지난 2년간의 대규모 투자(Capex) 시대를 지나, 이제는 효율적 연결(Network)로 패러다임이 확장(*) 네트워크 시장은 크게 Scale-Up(단일 랙 내부 칩 간 연결)과 Scale-Out(데이터센터 내 이기종 클러스터 간 연결)으로 구분 Scale-Up 영역에서는 UALink와 SUE(Scale-Up Ethernet), Scale-Out 영역에서는 Ethernet 기반 Arista 및 White Box 솔루션이 부상하면서 패권 경쟁이 본격화되는 국면에 진입 각 진영별 기술 패권을 쥔 기업들(Astera Labs, Celestica 등)은 중장기적으로 구조적 성장이 기대되며, AI 인프라 전반의 성장세를 상회하는 초과 성장을 전망 소재·부품 부문에서는 네트워크 스위치의 고도화에 따라 MLB와 CCL의 구조적 성장 가속화 예상 기존 스토리에, 얹어지는 새 이야기 Generative AI 상용화, Agentic AI 확산되기 시작하면서 AI 컴퓨팅 연산량 급증 AI 데이터센터가 처리해야 하는 연산량의 ‘기하급수적’ 증가 생각하는 AI(Test-Time Computing)에 기반한 AI LLM 상용화(Commoditization)와 연산량 급증 기존 AI의 추론 방식은 단일 경로, 1회 호출에 기인한 결과물 출력 방식 AI 에이전트는 목표 달성까지 반복 다중 작업, AI 모델의 n회 호출 그런데 AI 에이전트 워크플로우에서는 LLM이 자신의 출력물을 토대로 응답을 개선하도록 새 출력물 (프롬프트)를 받거나 여러 단계에 걸쳐 계획/실행, 협업을 구현 똑같은 출력물이더라도, AI 에이전트의 출력물은 최종 소비 전 이미 수십만 개의 토큰을 생성했을 수 있음 AI 에이전트 연산 구조 복잡화가 Scale Up/out +across 요구 2Q25 엔비디아, 브로드컴 실적발표에서 공통적으로 새로 등장한 용어 “Scale across” Scale across는 데이터센터, region간 연결 및 분산을 의미(Inter-regional) Agentic RAG는 더 많은 데이터 축적을 요구 Traditional RAG(Generative AI 시대)는 질문-문맥-최종답과 관련한 간단한 데이터 저장 Agentic RAG는 계획-행동-관찰 과정 루프(반복)에서 툴 호출에 따른 과정까지 기록으로 남김 - 결정 근거, 툴 I/O, 중간 산출물, 메모리 등 Scale Across 시대에 부각되는 '네오클라우드' AI 컴퓨팅 공급 주체에는 하이퍼스케일러가 중심에 있고, 네오클라우드라는 신흥 비즈니스가 있음 ...

AI 인프라 시장의 구조적 성장 AI 클라우드·데이터센터는 아직 초기 단계 → 온프레미스 워크로드가 여전히 많아 클라우드 전환 여지가 큼. RPO(잔여 성과의무) 성장 속도가 매출보다 빠름 → 장기 성장 신호. 수요 폭발 구간: 추론(reasoning) 모델, 에이전틱(Agentic) AI가 핵심 트렌드로 자리잡고 있음. AI 인프라/클라우드 투자 사이클은 장기 성장 초입 단계. 전력·네트워킹이 병목이자 기회 전력은 희소 자원 → 와트당 성능(FLOPS per watt)이 가장 중요한 투자 포인트. 광 네트워킹은 필수 인프라 → AI 클러스터는 NVLink·InfiniBand·이더넷을 혼용하지만 초대형 AI 팩토리에서는 NVLink+InfiniBand가 핵심. 브로드컴은 이더넷 최강자로 7곳의 LLM 빌더(하이퍼스케일러+슈퍼스타트업)에 집중, Arista는 800G, 1.6T 네트워킹 확장으로 점유율 확대 중. “전력·네트워크 공급망에 선제적으로 투자한 업체”가 과실을 독점할 가능성 높음. 구리(AEC) vs 광학(CPO/실리콘 포토닉스) 전환 CRDO 같은 업체는 AEC(Active Electrical Cable) 로 성장 → TOR 인접 연결 → 프런트엔드 → AI 스케일업/스케일아웃 확장. AEC 시장 규모: 20억 → 50~100억 달러로 상향 추정. 하지만 2026~2027년 이후에는 광학(실리콘 포토닉스)으로 본격 전환 예상. 광학 전환은 전력 40% 절감 매력 있으나 신뢰성 검증이 과제. AI 인프라 핵심 기업별 포인트 엔비디아 (NVIDIA) 강점: CUDA 생태계, NVLink·InfiniBand, 범용 GPU 아키텍처 전략: 매년 신제품 아키텍처 출시(Grace ...

어떤 회사이지? 2016년 설립된 우루과이 기반의 핀테크 기업 본사는 우루과이 몬테비데오에 위치하며, 상파울루, 샌프란시스코, 런던, 텔아비브, 선전 등 전세계에 20개 이상의 지사를 운영 국제 전자상거래 기업들을 신흥시장과 연결하는 글로벌 결제 플랫폼을 주력 사업 하나의 API로 여러 국가의 현지 결제 수단을 통합 제공하는 One dLocal 솔루션 해외 진출 기업이 각 시장별로 별도 결제 인프라를 구축할 필요 없이 로컬 결제와 로컬 정산을 손쉽게 수행 수익은 주로 결제 처리 및 관련 서비스에 대해 기업 고객에게 부과하는 수수료에서 발생(수수료는 일반적으로 거래 가치의 일정 비율로 책정) Mercado Libre가 시가총액이 10배 이상 성장할 수 있었던 배경에는, 2011년부터 2023년까지 CFO로서 재무 안정성과 성장 전략을 이끌었던 Pedro Arnt의 역할이 컸고, 2023년 8월 dLocal의 CEO로 취임 Main Product APMs Innovation: SmartPix 핵심: 브라질의 Pix 결제 방식을 혁신. 문제점(기존 Pix 한계): 사용자가 매번 직접 앱에서 결제를 승인해야 해서 자동결제/정기결제 같은 활용도가 제한적이었음. 해결책(SmartPix): dLocal이 자체 개발한 솔루션으로 자동화·정기·주문형 결제 지원. 예: 넷플릭스, 스포티파이 같은 구독 서비스 → 매월 자동으로 Pix로 결제 가능. 온라인 쇼핑몰 → "원클릭 Pix 결제" 구현 가능. 비즈니스적 의미: 브라질 Pix는 세계에서 가장 빠르게 성장한 결제 방식 중 하나. SmartPix는 그 성장세에 플랫폼 락인 효과를 만들어 dLocal 고객(글로벌 전자상거래 기업)들이 더 쉽게 Pix를 결제 수단으로 통합하도록 유도. Product Expansion: BNPL Fuse 핵심: BNPL(“Buy Now, Pay Later”) 결제 집계 플랫폼. 특징: dLocal 독점 운영 → 신흥시장 전용 BNPL aggregator. 글로벌 결제 기업들이 신흥시장에 진출할 때 개별 BNPL 파트너를 붙일 필요 없이, dLocal API 하나로 통합 제공. 530M+ 유저 커버리지 → 신흥시장(남미, 아프리카, 아시아)의 잠재적 소비자층을 대규모로 연결. 비즈니스 모델: dLocal은 수익 쉐어(revenue share) 구조. 즉, 거래 리스크(부도, 연체)는 BNPL 제공업체가 ...