Networking Companies Ride the AI Wave. It Isn’t Just Nvidia(Barron's article)
이 기사는 AI 시스템 개발에 있어 고급 네트워킹의 중요한 역할과 그로 인한 네트워킹 산업의 붐에 대해 이야기 합니다.
백엔드 네트워크, 장거리 광학 링크가 다시한번 매출 향상 및 기회를 줄 것 입니다.
주요 내용은 다음과 같습니다:
AI 시스템의 규모가 크게 확장되어, 현재 슈퍼컴퓨터는 수십만 개의 프로세서를 사용하고 있습니다.
네트워킹 기술은 AI 시스템에서 프로세서만큼 중요하며, 데이터 센터가 기본적인 컴퓨팅 요소입니다.
Nvidia, Broadcom, Cisco, Arista, Marvell과 같은 네트워크 인프라를 공급하는 기업들의 주가와 매출이 크게 성장하고 있습니다.
AI 데이터 센터는 두 가지 유형의 네트워크가 필요합니다: 사용자 통신을 위한 프론트엔드와 프로세서 간 연결을 위한 백엔드 네트워크입니다.
백엔드 네트워크는 InfiniBand에서 이더넷으로 진화하고 있으며, Ultra 이더넷이 잠재적 표준으로 부상하고 있습니다.
고대역폭 스위치와 연결에 대한 수요가 증가하고 있으며, 많은 응용 분야에서 광섬유가 구리를 대체하고 있습니다.
네트워크 칩 기술이 빠르게 발전하고 있으며, 2025년까지 속도가 두 배로 증가할 것으로 예상됩니다.
AI 시스템의 규모가 전력 소비와 물리적 공간의 한계를 밀어붙이고 있어, 장거리 광학 링크로 연결된 분산 데이터 센터가 필요해지고 있습니다.
9월에 Marvell, Lumentum, Coherent는 최대 300마일 떨어진 데이터 센터를 위한 광학 링크를 시연했습니다.
확장성에 대한 우려에도 불구하고, Nvidia의 Jensen Huang과 같은 업계 리더들은 AI 처리 능력의 지속적인 성장에 대해 낙관적입니다.
네트워킹 산업은 이러한 AI 주도의 수요를 성장과 혁신의 거대한 기회로 보고 있습니다.
[원문 번역]
인공지능의 힘을 발휘하기 위해서는 네트워크가 필요하며, 이러한 네트워크를 공급하는 기업들의 주가가 급등하고 있습니다. AI 시스템은 몇 개의 Nvidia 프로세서에서 수천 개의 칩으로 규모가 확장되면서 더 똑똑해졌습니다. 최근 공개된 일론 머스크의 xAI의 Colossus AI 슈퍼컴퓨터는 100,000개의 프로세서를 갖추고 있습니다. 백만 개의 칩을 가진 클러스터가 설계 중에 있습니다.
Nvidia 프로세서는 이러한 공장 규모의 AI 시스템에서 가장 가치 있는 부품이며, 이것이 Nvidia가 세계에서 가장 가치 있는 기업 중 하나인 이유입니다. 그러나 100,000개의 프로세서를 단일 AI 컴퓨팅 작업에 투입하려면 프로세서 자체만큼 진보된 네트워크 기술이 필요합니다.
Nvidia 네트워킹 책임자인 Gilad Shainer는 AI의 기본 컴퓨팅 요소가 프로세서가 아니라 데이터 센터라고 말합니다. 따라서 AI 데이터 센터에 지출되는 수십억 달러 중 점점 더 많은 부분이 수천 개의 프로세서를 단일 컴퓨터로 통합하는 네트워크 칩, 레이저, 스위치 공급업체로 갈 것입니다. Nvidia 자체적으로 이러한 네트워크 인프라를 공급하지만, Broadcom, Cisco Systems, Arista Networks, Marvell Technology 등도 마찬가지입니다.
Shainer는 AI가 고급 네트워크 없이는 발전할 수 없다고 말합니다. "네트워크는 데이터 센터의 동작 방식을 결정하기 때문에 가장 중요한 요소입니다."
Broadcom의 주가는 12월에 40% 급등했는데, 이는 네트워킹 회사가 실적 발표에서 AI 분야에서의 확장되는 기회를 상세히 설명한 후였습니다. Broadcom의 CEO인 Hock Tan은 현재 네트워크 칩이 전체 AI 칩 지출의 5%에서 10%에 불과하다고 말했습니다. 그러나 AI 시스템의 규모가 500,000개 또는 100만 개의 프로세서에 도달하면, Tan은 네트워킹이 데이터 센터 칩 예산의 15%에서 20%를 차지할 것으로 예상합니다. 100만 개 이상의 프로세서를 가진 데이터 센터를 구축하는 데는 1,000억...
