로봇만으로 적 진지를 점령한 날 — 우크라이나 UGV 전장 투입 현황

안녕하세요, 슈크림빵입니다.🧁 요즘 AI 모델들이 정말 쏟아지듯 나오고 있죠. 성능이 얼마나 좋아졌는지에 대한 이야기는 많지만, 정작 이 모델들이 '어떤 성격'을 가졌는지에 대해서는 깊이 있게 살펴볼 기회가 적었던 것 같아요. 그런데 최근 브라운대와 옥스퍼드대 등 10여 개 기관의 연구진이 참여해 발표한 흥미로운 보고서 하나를 읽게 되었어요. 중국 문샷 AI(Moonshot AI)의 최신 오픈 웨이트 모델인 'Kimi K2.5'에 대한 독립적인 안전성 평가 결과예요. 이 보고서를 보면서 미국 모델들과는 확연히 다른 결이 느껴져서, 그 이야기를 차분히 나누어보려고 합니다. 가장 먼저 제 눈길을 끈 건 기술적인 실력이었어요. Kimi K2.5는 이미 GPT-5.2나 Claude 4.5 같은 서구권의 최정상급 모델들과 대등한 이중 용도(Dual-use) 기능을 갖췄다고 하더라고요. 특히 사이버 보안 분야에서는 아주 독보적인 전문가 수준까지는 아니더라도, 우리가 잘 아는 딥시크(DeepSeek)보다는 훨씬 앞서 있는 성능을 보여주었다고 해요. 그런데 재미있는...

안녕하세요, 슈크림빵이에요 ☕ 오늘은 좀 무거워 보이지만 사실은 엄청 흥미로운 논문 하나를 가볍게 풀어보려고 해요! Anthropic이 2026년 4월에 공개한 "Automated Weak-to-Strong Researcher" 라는 글인데요, 읽다가 "어, 이거 투자하는 입장에서도 꽤 중요한 이야긴데?" 싶어서 정리해두고 싶었어요. 부제는 "AI가 AI를 연구하기 시작했습니다"입니다. 일단, 딱 숫자 하나만 보고 가실게요 사람 연구자 2명이 7일 동안 매달려서 낸 성적이 0.23. AI 에이전트 9마리가 5일 만에 낸 성적이 0.97. 비용은 약 $18,000 (약 2천4백만 원)이었습니다. (점수는 1점 만점이에요. 1에 가까울수록 잘한 거예요.) Figure 1. 9개의 AI 연구자가 시간이 갈수록 점수(PGR)를 점점 올려가는 모습. 회색 네모는 기존 연구의 출발 지점. 무슨 숫자인지, 무슨 문제였는지는 아래에서 천천히 설명드릴게요. 일단은 이거 하나만 기억해주세요! 사람보다 훨씬 빠르고, 훨씬 싸게, 훨씬 잘했다. 그것도 "AI 연구"라는, 원래 똑똑한 박사님들의 영역이라고 여겨지던 분야에서요. 그래서 AI들이 뭘 한 거야? 논문에서 푼 문제는 이름이 좀 어려워요. "Weak-to-Strong Supervision(약→강 지도학습)" 이라고 부르는데요, 풀어서 쓰면 이렇습니다. 나보다 똑똑한 학생을, 나(조금 덜 똑똑한 선생)가 어떻게 잘 가르칠 수 있을까? 이게 왜 중요하냐면요. 지금까지 AI는 사람보다 '덜 똑똑한' 상태였기 때문에, 사람이 AI에게 정답을 알려주면서 가르칠 수 있었어요. 그런데 AI가 사람보다 똑똑해지기 시작하면? 사람은 더 이상 정답을 모르는 문제를 AI에게 가르쳐야 하는 상황이 옵니다. 선생이 학생보다 못하는 상황이요. 이걸 실험실에서 미리 연습해보려고, 연구자들은 일부러 이런 세팅을 만들었습닌다. 작고 약한 AI를 '선생' 역할로 크고 똑똑한 AI를 '학생' 역할로 그리고 선생이 학생을 가르치게 했을 때, 학생이 자기 실력을 얼마나 끌어낼 수 있는지 측정했습니다. 이때 쓰는 점수가 아까 나온 PGR (Performance Gap Recovered, 성능 격차 회복률) 이에요. 0점 = 선생(약한 모델)만큼밖에 못함 1점 = 학생의 진짜 실력을 100% 끌어냄 선생, 학생, 그리고 그 사이의 격차를 보여주는 간단한 도식 사람이 7일을 썼을 때 이 점수가 0.23이었어요. 격차의 23%만 메웠다는 뜻이에요. 그런데 AI들에게 맡겼더니 97%까지 메워버린 거예요. AI들이 어떻게 연구를 했을까요? Anthropic이 만든 건 AAR (Automated Alignment Researcher, 자동화된 연구자) 이라는 시스템이에요. 작동 방식은 생각보다 단순합니다. 9명의 AI 연구원을 동시에 고용한다 (각자 자기 컴퓨터 앞에 앉아 있다고 상상하시면 돼요) 각자에게 다른 방향의 연구 주제를 던져준다 ("너는 A쪽으로, 너는 B쪽으로 파봐") AI들은 스스로 아이디어를 ...

안녕하세요, 슈크림빵입니다!🧁 오늘은 소설가 노아 홀리의 에세이 "What I Learned About Billionaires at Jeff Bezos's Private Retreat"를 읽고 글을 정리해 왔는데요. 에세이에는 훨씬 더 많은 내용이 담겨져 있었지만, 일정 부분만 각색하여 가져왔습니다! 영화 한 장면에서 시작하는 이야기 폴 토마스 앤더슨 감독의 2007년 영화 데어 윌 비 블러드의 마지막 장면을 아세요? 석유로 어마어마한 부를 쌓은 주인공 다니엘 플레인뷰가, 자신에게 매달리는 옛 원수를 볼링핀으로 때려죽이고는 이렇게 외칩니다. "I'm finished." 노아 홀리는 이 대사를 '나는 끝장났다'가 아니라, '나는 이제 인간 사회의 규칙에서 완전히 벗어났다' 는 의미로 읽어요. 부의 축적을 통해, 더는 어떤 규범도 그에게 닿지 않는 영역에 도달했다는 선언이라는 거죠. 그리고 그는 이 장면이 단지 영화 속 이야기가 아니라고 말합니다. 2018년, 베이조스의 비공개 리트릿 홀리는 소설가이자 FX 드라마 파고의 제작자이빈다. 2018년, 그는 제프 베이조스가 매년 여는 비공개 행사 'Campfire'에 초대받습니다. 산타바바라의 비트모어 리조트를 통째로 빌려, 셀럽과 예술가·지식인 80여 명을 사흘간 초대하는 행사였습니다. 전용기가 공항마다 대기하고, 라스베이거스에서 온 보안팀이 리조트를 지키고, 방마다 명품 선물백이 놓여 있는 그런 행사요. 매일 아침 TED 스타일의 강연이 열리고, 오후와 저녁에는 네 코스짜리 식사 사이로 네트워킹이 이어졌어요. 그런데 홀리가 그 자리에서 가장 많이 들은 말은 의외로 이 한 문장이었다고 해요. 내가 왜 여기 있는 거지? 팔십 년대 헤비메탈 가수도, 퓰리처상을 받은 소설가도, 유명 인류학자도, 대통령 역사학자도 똑같이 물었대요. 오직 영화배우들과 억만장자들만 묻지 않았다고요. 이미 이런 자리에 익숙했으니까요. 성취의 오만 강연장에 앉아 유명 셰프가 자신의 인도주의 활동을 이야기하는 걸 듣던 순간, 홀리는 불편한 깨달음을 얻습니다. 한 분야에서 천재라 불리기 시작하면, 모든 분야의 천재라고 믿게 된다. '성취의 오만(hubris of ...

안녕하세요, 슈크림빵입니다! 🧁 이번 글은 기술적인 글은 아닙니다! 가볍게 읽어주시면 되겠습니다! 저는 자주 카페를 찾아 밖으로 나갑니다. 집에도 책상이 있고, 노트북 한 대만 있으면 할 수 있는 일이 대부분인데요. 그런데도 어느 순간이 되면 옷을 갈아입고, 가방을 챙기고, 같은 동네의 다양한 카페로 걸어 나가고 있더라고요. 왜 그럴까? 스스로에게 물어보면 이유는 정말 많습니다. 그냥 집에 있기 답답해서, 맛있는 커피를 찾아서, 다른 공간에서 짧게 집중하고 싶어서 정도입니다! 운동을 다녀온 후 구독 중인 Atlantic의 한 뉴스레터를 읽었습니다. 날이 좋아지니 바깥에서 시간을 보내고 싶은데, 도대체 "어디서, 누구랑?"이라는 질문만 남는다는 이야기로 시작하는 글이었죠. 거기서 소개한 Allie Conti의 2022년 에세이를 따라 들어가면서, 제가 카페를 찾는 이유를 조금 다른 각도에서 보게 됐어요. Conti가 풀어내는 개념은 사회학자 Ray Oldenburg가 1980년대에 이름 붙인 '제3의 장소(third place)'예요. 집이 제1의 장소, 일터가 제2의 장소라면, 제3의 장소는 그 둘 바깥에 있는 곳. 돈 장벽이 낮고, 대화가 주인공이 되는 자리를 뜻합니다. Oldenburg는 그 역사적인 예로 프랑스의 카페, 독일계 이민자들의 맥주 정원, 영국의 펍을 ...

안녕하세요, 슈크림빵입니다! 헬스 가기 전 밸리 글을 쓰고 가려는데, 어머니가 헬스복을 챙겨주시네요. 얼른 가야겠습니다. ㅋㅋㅋㅋㅋㅋ 이번엔 AP통신에서 나온 기사입니다. ChatGPT maker OpenAI shifts its focus to business users amid Anthropic pressure으로 제목을 옮기면 'ChatGPT를 만든 OpenAI가 기업 고객 쪽으로 방향을 튼다, Anthropic의 압박 속에서' 정도 되는 내용입니다. 기술 업계의 돈 얘기라서 뻔하게 느껴지실 수도 있지만, 한 번 살펴보겠습니다! 기사에 나오는 숫자 하나부터 볼게요. ChatGPT를 매주 쓰는 사람이 9억 명이래요. 그리고 그중 약 95%는 돈을 한 푼도 안 내고 쓰고 있대요. OpenAI의 최고재무책임자 사라 프라이어가 직접 한 말입니다. 사실 저도 그 95%에 속하거든요. 가끔 이미지 만들거나 남친이랑 싸우고 상담이 필요할 때 공짜 계정으로 잠깐씩 쓰는 정도? 그런데 그렇게 쓰는 순간에도 뒤에서는 엄청난 컴퓨터 자원이 돌아가긴 합니다. 그래서 OpenAI는 회사 가치가 8,520억 달러(약 1,200조 원)나 되는데도 정작 버는 돈보다 쓰는 돈이 더 많습니다. 그렇다고 경쟁사인 Anthropic(클로드라는 AI를 만드는 회사예요)도 상황도 다르지 않습니다. 이쪽도 3,800억 달러짜리 회사지만 역시 적자입니다. 그래서 OpenAI는 요즘 방향을 틀고...