중국 휴머노이드 로봇 기술: 하드웨어는 충분, 인지지능은 아직

지난번 보스턴 출장에 이어 다시 보스턴에 왔습니다. 고작 한달의 시간이 지났을 뿐인데 분위기가 많이 달라져 있었습니다. 지난달만 해도, 테슬라나 피규어를 허풍으로 취급하는 사람들이 있었지만 이제는 그런 사람을 찾아볼 수 없습니다. (여전히 휴머노이드 상용화를 5년 뒤로 생각하면 짐싸서 집에 가야 합니다.) Vla는 로봇 ai에 있어 gpt모먼트를 가져 왔습니다. 지난 30년간의 mpc, 지난 10년간의 rl policy의 진전은 1)로봇 데이터의 확대, 2)vlm기반의 인지 ai 발전, 3)dit 기반의 행동ai와의 결합을 통해 한순간에 따라 잡혔습니다. 로봇 기업들은 대량 양산을 위한 hw 설계를 진행 중이고 ai기업들을 빠르게 파트너를 찾고 있습니다. 이들은 제조 노동을 대체 할 수 있을 수준으로 제품을 개발 중입니다. 완성도는 조금 떨어질지 모르나 올 연말이면 오픈소스 vla기반의 휴머노이드가 우후죽순 나올 것으로 보입니다. AI와 로봇의 발전은 우리 인식의 전환보다 빨라서, 눈으로 보고도 믿기가 어렵습니다. 캘리포니아에서는 로보택시가 더이상 놀랍지 않습니다. 곧 텍사스도 그렇게 될 것입니다. 테슬라 프리몬트 공장에는 이미 1000대 이상의 옵티머스가 돌아다닙니다. 미국과 중국의 많은 공장에서 poc가 진행 중입니다. 미래는 이미 도착해 있습니다.

Tesla, FigureAI, Agibot, Boston Dynamics 모두 빠르면 25년, 늦어도 29년 내 휴머노이드 대량생산을 시작합니다. Tesla는 25년 내 5000대 (최소 1000대, 최대 1만2000대) 제조를 준비 중입니다. 지난 4월 23일 X에 공개한 이미지를 보면, 대량생산에 적합하게 구조를 수정한 모델(Gen3 추정)의 테스트 생산이 진행 중입니다. 이번 출장에서 휴머노이드 분야의 많은 전문가들과 미팅을 진행하였고, 일부는 현재 상황을 Hype로 받아들이고 있었으나, Tesla가 압도적으로 앞서나가고 있음을 부정하는 이는 아무도 없었습니다. 데이터와 컴퓨팅에서 다른 모든기업을 합친 것보다 많은 규모를 확보 하였으며, 이미 100대가 넘는 휴머노이드를 보유한 것으로 예상됩니다. FigureAI에 대해서는 논란이 많이 있습니다만, Physical Intelligence PI-zero, Nvidia Gr00t N1, Agibot Go-1 등 공개된 SOTA 로봇 AI와 유사한 수준의 AI 기술을 확보한 것은 분명해 ...

[추가] 인터넷 상에 DeepSeek측에서 V3 개발 시 OpenAI 4o를 카피했다는 이야기도 나오고 있습니다. 아래 참고로 넣어둔 OpenAI 정형원 연구원의 영상에 내용과 DeepSeek R1 개발 방식이 유사해서 그런것 같습니다. 개념만 듣고 구현한 것이면 능력이라고 불러야 할 거 같은데... 현재 미중 AI 패권 경쟁을 고려할 때, 실재 카피 유무를 떠나서 연구성과를 공개하는 것에 대한 제약이 늘어날 수 있겠다는 생각이 듭니다. Deepseek은 중국 스타트업으로 최근 LLM V3와 추론(Reasoning) 모델 R1을 공개했습니다. 4o를 기반으로 o1을 만들었듯, V3를 기반으로 R1을 만들었습니다. V3 ( 4o 비슷한 LLM 것) ->  R1 (o1 비슷한 것) 여기서 R1모델이 지금 큰 이슈입니다. o1 과 거의 동등한 수준의 추론모델을 오픈소스로 풀어버렸습니다. 개발비와 운영비는 기존 빅테크 대비 1/10 수준이라고 주장합니다. 이미 모델에 대한 검증이 상당부분 진행되었는데, 성능과 추론비용에 대해서는 이견이 없습니다. R1개발 단계에서 CoT(chain of thought) 추론 개발에 활용한 강화학습 기술에 대해서도 인정을 받고 있습니다. 다만 개발 비용에 대해서는 논란의 여지가 있습니다. <파란색이 R1, 회색이 o1입니다. 대부분의 벤치마크에서 o1과 동등한 성능을 보입니다.> 그동안 이어졌던 중국에 대한 GPU 수출규제, 천문학적인 빅테크 투자규모를 고려할 때 중국의 AI 도약은 공포를 불러 일으킵니다. Google 내부에서 나왔다는 'we have no moat' 문서가 떠오릅니다. <LLM 자체에는 해자가 없다는 내용> 그러나 여기서 우리가 간과하면 안되는 것이 DeepSeek는 거인의 어깨에 서서 이 모든 것을 이루었다는 사실입니다. DeepSeek는 기존 오픈소스 를 활용하고 미국 빅테크에서 사용한 다양한 테크닉들을 모방하여 초기 투자비용을 크게 줄일 수 있었습니다. 지금부터 논문을 보며 차근차근 설명해 보겠습니다. DeepSeek-R1: Incentivizing Reasoning Capability in LLMs via Reinforcement Learning DeepSeek의 핵심은 기존 post-training에 이용하던 Supervised fine-tuning(SFT) 과정을 생략하고 Reinforcement learning(RL) 을 처음부터 쓴것입니다. post-training이란 비교적 적은 리소스를 이용하여 pre-trained 모델의 성능을 향상시키고 인간의 의도에 부합하는 행동을 하도록 유도하는 과정입니다. GPT-o1이후 이슈가 되고 있는 Resoning 역시 post-training에서 학습됩니다. 보통 Chain-of-thought (CoT)를 이용한다고 알려져 있습니다. CoT는 인간이 수학문제를 풀 때, 풀이과정을 작성하며 풀듯, LLM이 문제를 풀 때, 풀이과정을 적고 이를 지속적으로 검토하며 출력을 생성하여 보다 체계적으로 문제를 풀 수 있게 돕습니다. 지금까지는 CoT 학습을 위해 사람이 예시를 작성해야 했습니다. 사람이 작성한 답과 유사한 답을 생성하도록 학습 하였기 때문에 이 과정을, SFT, 즉 지도 미세 조정 이라고 불렀습니다. DeepSeek은 인간의 지도 없이 모델 스스로 답을 푸는 과정을 학습하도록 합니다. 이러한 과정을 일반적으로 RL, 강화학습이라고 부릅니다. 강화학습의 특징은 성과에 따라 보상(인센티브)이 주어지며 더 많은 보상을 받도록 학습된다는 것, 의사결정의 결과를 확인하기까지 시간지연이 있다는 것입니다. 문제 상황이 다양하고, 연속적인 의사결정(문제 ...

문라이트: https://blog.valley.town/@bspark/post/678b1dbdacaeecfd7dfb84fb 저는 오랫동안 비트코인 회의론자였습니다. 그러다 24년 말 포트폴리오 관리 차원에서 비트코인을 일부 매수 했고, 그 이유를 적어봅니다. 널리 알려진 스테이블 코인과 미국채간의 관계, 블랙마켓 등에 내용은 생략합니다. 조금은 SF 같은 상상이 가미되어 있습니다. 금융 지식이 부족하여 용어에 착오가 있을 수 있습니다. 0) 비트코인은 이미 제도권에 편입된 금융 상품으로 인정을 받은 상황이다. 미국 시장에 상장되었다는 점에서 하나의 상품으로 볼 수 있다고 생각 합니다. 이 부분에서 동의하지 않으면 아래 내용은 무의미합니다. 1) 금 채굴은 상당히 비효율적이다. 에드 콘웨이의 '물질의 세계' 에필로그를 보면 금 채굴이 얼마나 비효율적인 일인지 잘 설명하고 있습니다. 이에 비하면 비트코인 채굴을 위해 쓰는 전력은 매우 '친환경적'으로 보입니다. 금괴 한 덩이를 만들기 위해서 얼마나 많은 흙을 파헤쳐야 할까? 바릭골드 관계자들에게 물었더니 모르겠다고 대답했다. 그러나 나는 알고 있었다. 단 하루 작업에 이 트럭들이 엠파이어스테이트빌딩 무게의 바윗덩어리들을 운반한다는 사실을, 계산해보니, 골드바 표준 중량인 400트로이온스(약12.4kg) 하나를 만드려면 5,000톤의 흙을 파내야 했다. 이는 세계 최대...

Nvidia가 최근 CES2025에서 Cosmos, 혹은 World Foundation Model 이라는 거창한 AI모델을 발표했습니다. 언제나처럼 AI 관련해서는 '정확히 뭔지 모르겠는' 모델을 발표 하였는데요, 모델의 구조도 복잡하고 기능도 다양하여 한 번 정리해 보았습니다. (참고: https://arxiv.org/html/2501.03575v1) Nvidia에 따르면 Cosmos의 정의는 다음과 같습니다. NVIDIA Cosmos™ is a platform of state-of-the-art generative world foundation models (WFM), advanced tokenizers, guardrails, and an accelerated data processing and curation pipeline built to accelerate the development of physical AI systems such as autonomous vehicles (AVs)and robots. 설명이 조금 복잡하지만 짧게 쓰자면 Cosmos는 Physical AI를 위한 생성형 AI 기반의 학습 플렛폼, WFM은 physical AI를 위한 pre-trained model입니다. 위 설명을 이해하려면 두가지 배경지식이 필요합니다. 1) 원래 로봇 학습을 어떻게 하는지, 2) pre-trained model이 뭔지. 1) 기본적으로 여기서 말하는 로봇학습은 강화학습 입니다. 강화학습이란, 반복시행과 보상을 통해 행동 '정책'을 학습 시키는 것입니다. (강아지 '손' 이랑 비슷) 자세한 설명: link 직관적인 영상: https://youtu.be/fiQsmdwEGT8?si=rzz4vzcssKAlidke 2) pre-trained model은 말 그대로 사전학습 모델을 말합니다. GPT = generative pretrained transformer 에서 P가 사전학습되었다는 의미 입니다. 방대한 데이터로 시스템에 대한 이해는 충분히 시켜 놨는데, 아직 ...