오빠…? VGT 왜이래요…?

안녕하세요, 슈크림빵이에요.🧁 요즘 SpaceX와 AI 이야기를 연달아 다루고 있는데요, 오늘은 좀 다른 각도에서 같은 풍경을 보는 글을 가져왔어요. Wall Street Journal의 AI & Business 뉴스레터에 실린, 빅테크들의 AI 자본 지출에 관한 기사 The AI Spending Spree Is Far from Over 입니다. 앞 글들에서 "인프라를 먼저 까는 쪽이 이긴다"는 이야기를 했다면, 오늘은 그 반대편 이야기인 인프라를 깔고 나면 반드시 돌아오는 청구서에 관한 이야기입니다. 숫자부터 보면 좀 아득합니다. 마이크로소프트, 아마존, 메타, 구글(알파벳) 이 네 회사가 작년에 쓴 capex 합계가 4,100억 달러예요. 2022년에 쓴 돈의 약 세 배입니다. 그리고 올해 예상치는 무려 6,740억 달러입니다. 3년 연속으로 네 회사의 합산 capex 증가율이 60%를 넘게 되는 거예요. 이 폭주의 방아쇠는 다들 아시는 대로 2022년 말 ChatGPT의 등장이었습니다. 매출과 시가총액 기준으로 세계 최상위권인 네 회사가, "AI에서 뒤처지면 곧장 도태된다"는 공포에 동시에 사로잡힌 거죠. 그 공포는 아직도 ...

안녕하세요, 슈크림빵이에요.🧁 방금 Atlantic 기사를 읽으며 머스크와 SpaceX 이야기를 한 번 정리했었는데요, 그 그림에 한 조각이 더 얹히는 소식이 나와서 짧게 전해드리려고 해요. 야호🌞 기사 원문입니다! SpaceX Secures Option to Buy AI Startup Cursor for $60 Billion Wall Street Journal에 따르면, SpaceX가 AI 코딩 스타트업 Cursor를 600억 달러에 인수할 수 있는 옵션을 확보했다고 해요. Cursor는 개발자가 코드를 작성할 때 AI의 도움을 받을 수 있도록 해주는 도구인데요, 코드를 대신 써주거나 버그를 잡아주는 식으로 일을 도와주는 프로그램이에요. SpaceX가 화요일 X에 올린 글에서 밝힌 내용인데요, 두 회사가 코딩과 AI 분야에서 긴밀히 협업 중이고, 올해 안에 Cursor를 인수할 수 있는 권리를 갖게 됐다고 해요. 만약 인수가 이뤄지지 않을 경우, SpaceX는 파트너십 작업에 대해 10억 달러를 지급하는 구조라고 하고요. SpaceX는 "Cursor의 제품과 전문 소프트웨어 엔지니어들에 대한...

안녕하세요, 슈크림빵이에요.🧁 이번엔 Atlantic에 실린 머스크와 SpaceX에 관한 기사 하나를 같이 읽어보려고 해요. 기사 제목은 「Elon Musk’s SpaceX Endgame」, 필자는 Quinn Slobodian과 Ben Tarnoff예요. 지구 저궤도를 둘러싼 이야기인데, 막상 읽어보니 결국은 "누가 정보의 배관을 쥐느냐" 하는 문제더라고요. 기사가 전하는 현재 풍경은 이렇습니다. 지금 지구 저궤도에는 활동 중인 위성이 약 1만 4천 개쯤 있는데, 이 중 대부분을 머스크의 SpaceX가 운영하고 있어요. 그런데 최근 이 회사가 미국 정부에 추가로 100만 개까지 더 쏘아 올릴 수 있게 해달라고 신청했다는 거예요. 표면적인 명분은 "우주 데이터센터"입니다. 태양광이 24시간 쏟아지는 우주에 AI용 데이터센터를 띄우겠다는 구상이에요. 머스크는 "지구에서는 전력이 부족하지만 우주는 늘 해가 비친다"는 취지로 말했다고 기사는 전합니다. 궤도상에서 데이터센터를 돌리려면 열 배출, 방사선 차폐, 궤도상 냉각, 유지 보수 같은 문제가 줄줄이 따라붙는데, 이건 아직 실증된 기술이 전혀 아니거든요. 기사도 "검증되지 않은 기술"이라고 분명히 적어두고 있어요. 그런데 흥미로운 건, 이 비전이 기술적으로 맞는지 아닌지보다, 이 비전을 '내세우는 행위' 자체가 이미 무언가를 만들어내고 있다는 점이에요. 기사에 따르면 SpaceX는 이르면 올해 6월 상장을 앞두고 있고, 보도된 기업가치는 2조 달러 수준이라고 해요. 화성까지 가는 이야기로 투자자를 설득하고, 그사이 저궤도 선점이라는 실리를...

안녕하세요, 슈크림빵이에요.🧁 요즘 The Atlantic을 구독하고 있는데요. 돈을 냈으니 같이 읽을만한 글을 열심히 가져오고 있습니다!☺️ 여러분의 생각도 같이 들을 수 있으면 더 좋겠어요. 이번에 가져온 건 유머 칼럼니스트 Alexandra Petri가 쓴 "베이조스 부부가 매일 아침 거의 확실히 감사해하는 10가지"라는 글이에요. 참고로 저는 베이조스를 꽤 좋아하는 사람이라서🥹, 이 글을 읽으면서 웃기면서도 좀 다른 생각이 들었거든요. (또 빌리네어 풍자가 흔한 일이라고도 하더라구요,,,) 배경부터 설명하자면요. 얼마 전에 뉴욕타임스에 제프 베이조스 부부의 아침 루틴이 실렸어요. 매일 아침 6시에 일어나서, 핸드폰을 보기 전에 감사한 것 10가지를 적는다고 합니다. 규칙이 하나 있는데, 어제 쓴 것과 겹치면 안 된다고요. 이걸 본 The Atlantic의 유머 칼럼니스트 Alexandra Petri가 "그럼 그 리스트 내용이 이렇지 않겠느냐"고 상상해서 풍자 칼럼을 썼어요. 월요일 1번은 당연히 "돈", 화요일엔 어제랑 겹치니까 "사랑"으로 바꾸고, 수요일에 또 슬그머니 "돈"이 돌아오는 식이에요. 한 번은 피식할만 ...

안녕하세요, 슈크림빵입니다.🧁 미국이 중국에 AI 칩을 안 팔면, 중국은 어떻게 할까요? 답은 의외로 단순했습니다. 칩을 못 늘리니까, 비트를 쪼갠 거예요.(비트주세요! 드랍 더 비트~) 화웨이가 최근 발표한 HiFloat4라는 4비트 데이터 포맷 이야기인데요, 같은 칩에서 이론상 4배 더 많은 연산을 뽑아내겠다는 전략이에요. 논문 두 편을 중심으로, AI 전문가가 아니어도 따라올 수 있게 정리해보았습니다! 먼저 배경: 왜 비트를 줄여야 하나 AI 모델을 돌리려면 GPU 같은 고성능 칩이 필요합니다. 그런데 미국이 2022년부터 중국에 이 칩을 안 팔고 있어요. Nvidia H100은 수출 금지, 중국 시장용으로 성능을 낮춘 H20마저 2025년 4월부터 수출 허가가 필요해졌어요. 자체 제조도 쉽지 않아요. 중국 최대 파운드리 SMIC은 7nm 공정에 묶여 있고, Nvidia가 쓰는 4nm TSMC 공정과는 세대 차이가 나요. 화웨이의 2025년 AI 칩 생산량은 약 20만 개로 추정되는데, 이는 미국 생산량의 1~4% 수준이에요. 칩을 더 못 만드니까, 남은 선택지는 하나입니다. 가진 칩에서 더 많이 뽑아내는 것. 그 핵심 기술이 HiFloat4예요. 비트를 줄인다는 게 뭔 말일까요? AI 모델 안에서는 수많은 숫자(가중치)가 돌아다녀요. 이 숫자 하나를 표현하는 데 몇 비트를 쓰느냐가 정밀도예요. BF16 (16비트): 현재 표준. 숫자 하나에 16비트. FP8 (8비트): 절반으로 줄임. 이미 상용화됨. FP4 (4비트): 또 절반. 같은 칩에서 이론상 4배 연산, 4배 메모리 절약. 당연히 비트가 줄면 숫자를 덜 정확하게 표현하니까 모델 성능이 떨어져요. 핵심은 "얼마나 적은 손실로 4비트를 쓸 수 있느냐"예요. 기존 4비트 포맷들: 뭐가 문제였나 HiFloat4 이전에도 4비트 포맷 시도가 있었어요. 논문에서 세 가지를 비교하고 있어요. 세 가지 4비트 BFP 포맷(MX4, MXFP4, NVFP4)의 구조를 나란히 비교한 그림. 각 포맷이 숫자를 어떤 식으로 쪼개서 저장하는지 보여줍니다. MX4 (Microsoft/Meta) 그룹 크기가 16개로 작고, 메타데이터 오버헤드가 커서 실제 데이터를 3비트로 줄여야 했어요. 결과적으로 정밀도가 너무 낮아서 AMD도 채택을 포기. MXFP4 (Open Compute Project) Nvidia, AMD, 화웨이까지 채택한 업계 표준. 그룹 크기를 32로 늘리고 개선했지만, 가중치(weight)에만 쓸 수 있고 활성화(activation)에는 정밀도가 부족해요. 즉 4비트 연산력의 절반만 활용 가능. NVFP4 (Nvidia Blackwell) 활성화에도 쓸 수 있게 만든 Nvidia의 독자 포맷. 하지만 두 가지 대가가 있어요. 첫째, 다이나믹 레인지가 좁아서 소프트웨어로 추가 스케일링(PTS)을 해야 하고, 둘째, 그룹 크기가 16으로 작아서 행렬 연산 시 하드웨어 오버헤드가 큼. 정리하면, 기존 ...