테슬라 AI는 무엇이 다른가?

리처드 서튼(Richard Sutton)과 드와케시 파텔(Dwarkesh Patel)의 인터뷰는 현재 AI 업계의 주류인 거대언어모델(LLM)에 대한 근본적인 비판과 강화학습(RL)이 가진 '경험'의 중요성, 그리고 인류와 AI의 미래 관계에 대한 철학적인 고찰을 담고 있습니다. 저는 일부 그의 생각에 동의하지만, LLM이 막다른 한계라고 생각하지는 않습니다. 오히려 LLM이 보완해 나가야 할 부분을 정확히 지적한 것이고, 이것은 '지속학습(Continual Learning)' 과 '월드모델' 입니다. 앞으로 AI 분야의 핵심 개념이 될 것입니다. 유능한 인터뷰어인 드와케시 파텔 마져도 당황시킨 새로운 관점들(사실 새롭다기 보다는 LLM만 보는 사람들이 놓친)이 쏟아지니, 인터뷰 전문도 꼭 읽어보시길 추천합니다. 인터뷰 요약: LLM의 한계와 경험의 시대 1. LLM은 진정한 '세계 모델'이 아니다 리처드 서튼은 현재의 거대언어모델(LLM)이 지능의 본질인 '세상을 이해하는 능력'을 갖추지 못했다고 비판합니다. LLM은 세계에 대한 모델을 가진 존재인 '사람'을 흉내 낼 뿐, 스스로 물리적 세계의 인과관계를 예측하거나 이해하지 못한다는 것입니다. 그는 "사람이 다음에 무슨 말을 할지 예측하는 것"과 "실제 세계에서 어떤 일이 일어날지 예측하는 것"은 근본적으로 다르다고 강조합니다. 2. 목표(Goal)의 부재와 경험의 중요성 지능의 핵심은 '목표를 달성하는 능력'입니다. 하지만 LLM의 '다음 토큰 예측'은 세상을 변화시키거나 상호작용하는 실질적인 목표가 아닙니다. 서튼은 진정한 지능은 데이터(인간의 지식)가 아니라, 자신의 행동에 따른 결과(보상)를 통해 배우는 '경험'에서 나온다고 봅니다. 이는 동물이 지도 학습이 아닌 시행착오를 통해 생존을 배우는 방식과 같습니다. 따라서 인간의 데이터에 의존하는 LLM은 결국 한계에 봉착할 것이며, 스스로 경험하며 배우는 강화학습 기반의 에이전트가 진정한 확장성을 가질 것이라고 주장합니다. 3. '쓰라린 교훈'의 재확인 서튼의 유명한 에세이 '쓰라린 교훈'은 인간의 지식을 시스템에 주입하려는 시도보다, 계산 능력을 활용한 범용적인 학습 방법이 결국 승리한다는 내용을 담고 있습니다. 그는 LLM 역시 인간의 텍스트 데이터(지식)에 의존한다는 점에서 '쓰라린 교훈'의 예외가 아니라고 봅니다. 장기적으로는 인간의 개입 없이 순수하게 연산과 경험만으로 학습하는 모델이 인간 지식 기반의 모델을 압도할 것입니다. 4. AI로의 승계와 우주적 관점 인터뷰 후반부는 AI가 인류를 넘어서는 시점, 즉 '승계'에 대한 철학적 논의로 이어집니다. 서튼은 AI가 인간을 초월하는 것을 두려워하기보다, 우주가 '복제자(Replicators, 생물)'의 시대에서 '설계된 존재(Designed Entities, AI)'의 시대로 넘어가는 위대한 전환점으로 받아들여야 한다고 말합니다. 우리는 AI를 통제하려 하기보다, 자녀를 독립시키는 부모의 마음으로 그들에게 '높은 진실성(High Integrity)'과 같은 친사회적 가치를 심어주는 데 집중해야 한다고 조언합니다. LLM은 막다른 골목인가? Dwarkesh: 오늘 저는 리처드 서튼 교수님과 이야기를 나눕니다. 교수님은 강화학습의 창시자 중 한 분이시며, TD 학습(Temporal Difference Learning)이나 정책 경사법(Policy Gradient Methods)과 같이 오늘날 주로 사용되는 많은 핵심 기술을 발명하신 분입니다. 그 공로로 올해 튜링상을 받으셨죠. 모르시는 분들을 위해 말씀드리자면, 튜링상은 컴퓨터 과학계의 노벨상입니다. 리처드, 축하드립니다. 팟캐스트에 나와주셔서 감사합니다. Richard: 천만에요, 감사합니다. Dwarkesh: 첫 번째 질문입니다. 제 청취자들과 저는 AI를 바라보는 LLM식 사고방식에 익숙합니다. 개념적으로 볼 때, 강화학습(RL)의 관점에서 AI를 생각할 때 우리가 놓치고 있는 것은 무엇인가요? Richard: 그건 정말 상당히 다른 관점입니다. 자칫하면 서로 분리되어 소통 능력을 잃어버리기 쉽습니다. 거대언어모델은 정말 큰 이슈가 되었고, 생성형 AI전반이 거대해졌습니다. 우리 분야는 유행과 쏠림 현상에 취약해서, 기본적인 것들을 놓치기 쉽습니다. 저는 강화학습을 기초 AI(Basic AI)라고 생각합니다. 지능이란 무엇일까요? 문제는 세상을 이해하는 것입니다. 강화학습은 당신의 세상을 이해하는 것에 관한 것인 반면, 거대언어모델은 사람을 흉내 내는 것, 즉 사람들이 당신이 해야 한다고 말하는 것을 하는 것에 관한 것입니다. 그것들은 무엇을 해야 할지 스스로 알아내는 것이 아닙니다. Dwarkesh: 인터넷 텍스트 코퍼스에 있는 수조 개의 토큰을 모방하려면, 세계 모델을 구축해야 한다고 생각할 수 있지 않을까요? 실제로 이 모델들은 매우 강력한 세계 모델을 가지고 있는 것처럼 보입니다. 지금까지 AI 분야에서 만든 것 중 최고의 세계 모델 아닌가요? 무엇이 빠졌다고 생각하시나요? Richard: 방금 하신 말씀 대부분에 동의하지 않습니다. 사람들이 말하는 것을 흉내 내는 것은 실제로는 세계에 대한 모델을 구축하는 것이 전혀 아닙니다. 당신은 세계에 대한 모델을 가진 존재, 즉 '사람'을 흉내 내고 있을 뿐입니다. 적대적인 방식으로 접근하려는 건 아니지만, 저는 그들이 세계 모델을 가지고 있다는 생각에 의문을 제기합니다. 세계 모델은 무슨 일이 일어날지 예측할 수 있게 해줍니다. 그들은 사람이 뭐라고 말할지는 예측할 수 있습니다. 하지만 실제로 무슨 일이 일어날지는 예측할 수 없습니다. 앨런 튜링의 말을 인용하자면, 우리가 원하는 것은 경험으로부터 배우는 기계입니다. 여기서 경험이란 당신의 삶에서 실제로 일어나는 일들을 말합니다. 당신이 무언가를 하고, 무슨 일이 일어나는지 보고, 그것으로부터 배우는 것이죠. 거대언어모델은 다른 무언가로부터 배웁니다. 그들은 "여기 상황이 있고, 여기 사람이 한 행동이 있다"는 것에서 배웁니다. 암묵적으로, 제안하는 바는 당신도 그 사람이 한 대로 해야 한다는 것입니다. Dwarkesh: 아마도 핵심은, 그리고 교수님이 동의하실지 궁금한데요, 어떤 사람들은 모방 학습이 우리에게 좋은 사전 지식을 제공했다고, 혹은 이 모델들에게 문제에 접근하는 합리적인 방법에 대한 좋은 사전 지식을 주었다고 말합니다. 교수님이 말씀하시는 '경험의 시대'로 나아갈 때, 이 사전 지식은 우리가 경험을 통해 모델들을 가르치는 기초가 될 것입니다. 왜냐하면 이것이 모델들에게 가끔은 정답을 맞힐 기회를 주기 때문이죠. 그런 다음 경험을 통해 훈련시킬 수 있고요. 이 관점에 동의하시나요? Richard: 아니요. 그게 거대언어모델의 관점이라는 건 동의합니다만, 좋은 관점이라고 생각하지 않습니다. 무언가의 사전 지식(Prior)이 되려면, '실체(real thing)'가 있어야 합니다. 사전 지식의 조각은 '실제 지식'의 기초가 되어야 합니다. 무엇이 실제 지식일까요? 거대언어모델 프레임워크에는 실제 지식에 대한 정의가 없습니다. 어떤 행동을 취하는 것이 좋은 행동이게 만드는 것은 무엇일까요? 당신은 지속적인 학습(Continual Learning)의 필요성을 인지하고 있습니다. 지속적으로 학습해야 한다면, 지속적이라는 것은 세상과의 정상적인 상호작용 중에 학습하는 것을 의미합니다. 정상적인 상호작용 중에 무엇이 옳은지 알 수 있는 방법이 있어야 합니다. 거대언어모델 설정에서 무엇이 '말하기에 옳은 것'인지 알 방법이 있나요? 당신이 무언가를 말해도 무엇이 옳은 말인지에 대한 피드백을 받지 못합니다. 왜냐하면 옳은 말에 대한 정의가 없으니까요. 목표(Goal)가 없습니다. 목표가 없다면, 이런 말을 할 수도 있고 저런 말을 할 수도 있는 겁니다. '정답'이라는 게 없습니다. '그라운드 트루스'가 없습니다. 그라운드 트루스가 없다면 사전 지식을 가질 수 없습니다. 왜냐하면 사전 지식은 진실이 무엇인지에 대한 힌트나 초기 믿음이어야 하기 때문입니다. 거기엔 진실이 없습니다. 옳은 말이라는 게 없으니까요. 강화학습에서는 말해야 할 정답, 해야 할 정답이 있습니다. 왜냐하면 해야 할 올바른 일이란 보상(Reward)을 얻는 것이기 때문입니다. 우리는 무엇이 올바른 행동인지에 대한 정의를 가지고 있으므로, 무엇이 올바른 행동인지에 대한 사전 지식이나 사람이 제공한 지식을 가질 수 있습니다. 그런 다음 우리는 그것을 확인할 수 있습니다. 왜냐하면 실제 올바른 행동이 무엇인지에 대한 정의가 있으니까요. 더 간단한 경우는 세계의 모델을 만들려고 할 때입니다. 무슨 일이 일어날지 예측할 때, 예측을 하고 나서 실제로 무슨 일이 일어나는지 봅니다. 거기엔 그라운드 트루스가 있습니다. 거대언어모델에는 그라운드 트루스가 없습니다. 왜냐하면 다음에 무슨 일이 일어날지에 대한 예측이 없기 때문입니다. 당신이 대화 중에 무언가를 말했을 때, 거대언어모델은 그에 대해 상대방이 뭐라고 대답할지, 혹은 반응이 무엇일지에 대한 예측이 없습니다. Dwarkesh: 저는 그들이 예측한다고 생각합니다. 말 그대로 그들에게 "사용자가 뭐라고 대답할 것 같아?"라고 물어볼 수 있습니다. 그들은 예측을 내놓을 겁니다. Richard: 아니요, 그들은 그 질문에 대답할 뿐입니다. 하지만 그들은 실질적인 의미에서 예측을 하고 있지 않습니다. 무슨 일이 일어난다고 해서 놀라지 않을 것이기 때문입니다. 만약 당신이 그들이 예측했다고 할 만한 것과 다른 일이 일어난다면, 예상치 못한 일이 일어났다고 해서 그들이 변하지는 않을 겁니다. 그것을 배우려면 조정을 해야 합니다. Dwarkesh: 저는 문맥 안에서는 이런 능력이 존재한다고 생각합니다. 모델이 '생각의 사슬'을 수행하는 것을 보면 흥미롭습니다. 수학 문제를 풀려고 한다고 가정해 보죠. 모델은 "좋아, 먼저 이 접근법을 사용해서 문제에 접근해 보겠어"라고 말할 겁니다. 그리고 내용을 써 내려가다가 "아, 잠깐만. 방금 개념적으로 잘못된 방식으로 접근했다는 걸 깨달았어. 다른 접근법으로 다시 시작할게"라고 합니다. 그런 유연성은 문맥 안에 존재하지 않나요? 아니면 다른 것을 염두에 두고 계신가요? 아니면 이 능력을 더 긴 기간으로 확장해야 한다고 생각하시나요? Richard: 저는 단지 그들이 '다음에 무슨 일이 일어날지'에 대해 어떤 의미 있는 예측도 가지고 있지 않다고 말하는 겁니다. 그들은 다음에 일어나는 일에 놀라지 않을 겁니다. 무슨 일이 일어난다고 해서, 그 일에 기반해 어떤 변화도 만들지 않을 겁니다. Dwarkesh: 그게 말 그대로 '다음 토큰 예측' 아닌가요? 무엇이 올지 예측하고, 놀라움에 대해 업데이트하는 것 말이죠. Richard: 다음 토큰은 그들이 '말해야 할 것', 즉 행동이 되어야 할 것입니다. 그것은 그들의 행동에 대한 반응으로 세상이 그들에게 줄 것이 아닙니다. 다시 그들에게 목표가 없다는 점으로 돌아가 봅시다. 저에게 있어 목표를 갖는 것은 지능의 본질입니다. 무언가가 지능적이려면 목표를 달성할 수 있어야 합니다. 저는 존 매카시(John McCarthy)의 정의를 좋아합니다. 지능이란 목표를 달성하는 능력의 계산적 부분이라는 것이죠. 목표가 있어야 합니다. 그렇지 않으면 당신은 그저 행동하는 시스템일 뿐입니다. 특별할 게 없고, 지능적이지 않습니다. Dwarkesh: 거대언어모델이 목표가 없다는 것에 동의하시나요? Richard: 네, 그들은 목표가 없습니다. Dwarkesh: 목표가 뭐냐고요? 다음 토큰 예측이죠. Richard: 그건 목표가 아닙니다. 그건 세상을 바꾸지 않습니다. 토큰들이 당신에게 다가오고, 당신이 그것을 예측한다고 해서 당신이 토큰에 영향을 미치는 것은 아닙니다. Dwarkesh: 아, 그렇군요. 외부 세계에 대한 목표가 아니라는 말씀이시군요. Richard: 목표가 아닙니다. 실질적인 목표가 아니죠. 어떤 시스템이 그저 가만히 앉아서 예측만 하고 있고, 정확하게 예측한다는 사실에 자기 만족하고 있다면, 그 시스템이 목표를 가지고 있다고 말할 수 없습니다. Dwarkesh: 제가 이해하고 싶은 더 큰 질문은 왜 교수님께서 LLM 위에 강화학습(RL)을 얹는 것이 생산적인 방향이 아니라고 생각하시는지입니다. 우리는 이 모델들에게 어려운 수학 문제를 풀라는 목표를 줄 수 있는 것 같습니다. 그들은 여러 면에서 수학 올림피아드 유형의 문제를 푸는 능력에서 인간 수준의 정점에 있습니다. IMO(국제수학올림피아드)에서 금메달을 땄으니까요. 그렇다면 국제수학올림피아드에서 금메달을 딴 모델은 수학 문제를 맞히겠다는 목표를 가지고 있는 것처럼 보입니다. 왜 이것을 다른 영역으로 확장할 수 없는 건가요? Richard: 수학 문제는 다릅니다. 물리적 세계의 모델을 만드는 것과 수학적 가정이나 연산의 결과를 수행하는 것, 그것들은 매우 다른 것입니다. 경험적 세계(Empirical world)는 학습되어야 합니다. 결과를 학습해야 합니다. 반면 수학은 좀 더 계산적이고, 표준적인 계획(Planning)에 가깝습니다. 거기서 그들은 증명을 찾겠다는 목표를 가질 수 있고, 어떤 면에서는 증명을 찾으라는 목표가 주어진 것입니다. Dwarkesh: 흥미롭습니다. 왜냐하면 교수님께서는 2019년에 "쓰라린 교훈(The Bitter Lesson)"이라는 에세이를 쓰셨고, 아마 AI 역사상 가장 영향력 있는 에세이일 겁니다. 하지만 사람들은 이 에세이를 LLM의 확장을 정당화하는 데 사용했습니다. 그들의 관점에서는 이것이 세상에 대해 배우기 위해 무지막지한 양의 연산(Compute)을 쏟아부을 수 있는, 우리가 발견한 유일한 확장 가능한 방법이기 때문입니다. 교수님께서 LLM이 '쓰라린 교훈'을 따르지 않는다고(not "bitter lesson"-pilled) 보시는 게 흥미롭네요. Richard: 거대언어모델이 쓰라린 교훈의 사례인지 아닌지는 흥미로운 질문입니다. 그것들은 분명히 대규모 연산을 사용하는 방법이며, 인터넷의 한계까지 연산에 따라 확장될 것입니다. 하지만 그것들은 또한 많은 인간 지식을 집어넣는 방법이기도 합니다. 이건 흥미로운 질문입니다. 사회학적이거나 산업적인 질문이죠. 과연 그들이 데이터의 한계에 도달해서, 사람보다는 경험으로부터 데이터를 얻을 수 있는 것들에 의해 대체될 것인가? 어떤 면에서 그것은 쓰라린 교훈의 고전적인 사례입니다. 거대언어모델에 인간의 지식을 더 많이 넣을수록 더 잘 작동합니다. 그래서 기분이 좋죠. 하지만 저는 경험으로부터 배울 수 있는 시스템이 존재할 것이라고 예상합니다. 그것들은 훨씬 더 잘 수행할 것이고 훨씬 더 확장 가능할 것입니다. 그 경우, 이것은 인간의 지식을 사용했던 것들이 결국 경험과 연산만으로 훈련한 것들에 의해 대체된다는 쓰라린 교훈의 또 다른 사례가 될 것입니다. Dwarkesh: 제 생각에 그건 핵심이 아닌 것 같습니다. 그런 사람들도 미래의 압도적인 연산량이 경험 학습에서 나올 것이라는 점에는 동의할 겁니다. 그들은 단지 그 미래의 경험적 학습이나 현장 학습(on-the-job learning)을 하기 위해 연산을 쏟아부을 비계(scaffold)나 기초, 즉 시작점이 바로 LLM이 될 것이라고 생각하는 겁니다. 저는 여전히 왜 이것이 시작점으로서 완전히 틀렸는지 이해가 안 됩니다. 왜 경험적이고 지속적인 학습을 시작하기 위해 완전히 새로운 아키텍처가 필요한가요? 왜 LLM으로 시작해서 그걸 할 수는 없는 건가요? Richard: 쓰라린 교훈의 모든 사례에서 당신은 인간의 지식으로 시작해서 확장 가능한 것으로 넘어갈 수도 있었습니다. 항상 그런 식이죠. 그게 나빠야만 할 이유는 전혀 없습니다. 하지만 사실상, 그리고 실제로는 항상 나쁜 결과를 초래했습니다. 사람들은 인간 지식 접근법에 갇히게 되고, 심리적으로... 이제 왜 그런지 추측해 보자면, 항상 그래왔습니다. 그들은 진정으로 확장 가능한 방법들에게 밥그릇을 뺏기게 됩니다(get their lunch eaten). Dwarkesh: 확장 가능한 방법이 무엇인지 감을 좀 잡아주세요. Richard: 확장 가능한 방법은 경험으로부터 배우는 것입니다. 시도해 보고, 무엇이 효과가 있는지 보는 것이죠. 아무도 당신에게 말해줄 필요가 없습니다. 우선, 목표가 있습니다. 목표 없이는 옳고 그름이나 더 낫고 나쁨에 대한 감각이 없습니다. 거대언어모델은 목표나 더 낫고 나쁨에 대한 감각 없이 해내려고 노력하고 있습니다. 그건 정확히 잘못된 곳에서 시작하는 것입니다. Dwarkesh: 인간과 비교해 보면 흥미로울 것 같네요. 인간은 모방 학습을 하나요? 모방 대 경험 학습의 경우와 목표에 대한 질문 모두에서 흥미로운 유사점이 있다고 생각합니다. 아이들은 처음에 모방을 통해 배울 겁니다. 그렇게 생각하지 않으세요? Richard: 아니요, 당연히 아닙니다. Dwarkesh: 정말요? 저는 아이들이 그냥 사람들을 본다고 생각하는데요. 그들은 같은 단어를 말하려고 노력하고... Richard: 그 아이들이 몇 살이죠? 생후 6개월은 어떤가요? Dwarkesh: 저는 그들이 흉내 내고 있다고 생각합니다. 엄마의 입에서 나는 소리와 같은 소리를 내려고 노력하죠. Richard: 그러고 나면 그들은 의미도 모른 채 같은 단어를 말할 겁니다. Dwarkesh: 자라면서 모방의 복잡성이 증가하죠. 무리 내 사람들이 사슴을 사냥하는 데 사용하는 기술 같은 걸 흉내 낼 수도 있고요. 그러고 나서 경험 학습, 즉 RL 영역으로 들어가는 거죠. 하지만 저는 인간에게서 많은 모방 학습이 일어난다고 봅니다. 이렇게 다른 관점을 가질 수 있다는 게 놀랍네요. Richard: 제가 아이들을 볼 때, 저는 그저 이것저것 시도해 보고 손을 흔들어대고 눈을 이리저리 움직이는 아이들을 봅니다. 눈을 어떻게 움직이는지, 심지어 그들이 내는 소리에 대해서도 모방은 없습니다. 그들은 같은 소리를 만들고 싶어 할지 모르지만, 그 행동, 유아가 실제로 하는 행동에 대해서는 타깃(target)이 없습니다. 예시가 없어요. Dwarkesh: 동의합니다. 그게 유아가 하는 모든 것을 설명하진 않지만, 학습 과정을 안내한다고 생각합니다. LLM조차도 훈련 초기에 다음 토큰을 예측하려고 할 때 추측을 할 겁니다. 실제 보는 것과는 다르겠죠. 어떤 의미에서 이건 아주 짧은 시야의 RL입니다. "이 토큰이 이걸 거야"라고 추측하는 거죠. 이건 아이가 단어를 말하려고 노력하는데 잘못 나오는 것과 비슷합니다. Richard: 거대언어모델은 훈련 데이터로부터 배웁니다. 경험으로부터 배우는 게 아닙니다. 정상적인 삶을 사는 동안에는 절대 얻을 수 없는 무언가로부터 배우고 있습니다. 정상적인 삶에서는 "이 행동을 해야 해"라고 말해주는 훈련 데이터가 절대 없습니다. Dwarkesh: 이건 의미론적인 구분인 것 같습니다. 학교는 뭐라고 부르시나요? 그건 훈련 데이터 아닌가요? Richard: 학교는 훨씬 나중 일이죠. Dwarkesh: 알겠습니다, '절대'라고 말하진 말았어야 했네요. Richard: 글쎄요, 학교에 대해서도 그렇게 말할 수 있을 것 같네요. Dwarkesh: 하지만 정규 교육은 예외적이니까요. 하지만 초기 생물학적 프로그래밍 단계가 있고, 그때는 별로 쓸모가 없다가, 당신이 존재하는 이유는 세상을 이해하고 상호작용하는 법을 배우기 ...

"하지만 앞으로 나아갈 수 있는 아이디어들이 있습니다. 모든 지능적인 동물과 인간이 할 수 있지만 현재의 AI 시스템은 할 수 없는 것들을 수행할 수 있는 시스템을 만드는 아이디어들 말입니다. 저는 물리적 세계를 이해하고, 영구적인 기억(persistent memory)을 가지며, 추론하고 계획할 수 있는 능력에 대해 이야기하는 것입니다. 이 네 가지 특징이 반드시 필요합니다." 26년 현 시점 AI 분야에서 가장 큰 화두는 'LLM 스케일 업으로 AGI 도달이 가능한가?' 입니다. Demin Hassabis, Dario Amodei, Elon Musk와 같은 현재 AI 씬을 주도하는 기업의 CEO들은 스케일 업에 배팅을 하였습니다. 반면, AI God Father 중 한명이자 과거 Meta FAIR의 수장이었던 Yann LeCun은 LLM이 막다른 길, 한계에 도달했다고 이야기 합니다. 25년 LLM의 dead-end 논쟁이 치열했지만 결과적으로 Llama의 실패로 인해 Yann은 97년생 Alexandr Wang에게 밀려 Meta를 나오게 됩니다. San Fransisco Consensus를 보면 LLM 스케일업 논쟁은 끝난것 처럼 보입니다. 그럼에도 불구하도 25년 5월에 진행된 Yann과 Alex Kantrowitz의 인터뷰는 주목해볼만 합니다. 우리는 이 인터뷰를 통해 LLM이 해결해야 할 구체적인 문제점들을 확인할 수 있으며, 앞으로 나아갈 방향에 대해서도 배울 수 있습니다. 요약 얀 르쿤은 단순히 대규모 언어 모델(LLM)의 크기를 키우고 데이터를 더 많이 학습시키는 현재의 방식만으로는 결코 인간 수준의 AI(AGI)에 도달할 수 없으며, 향후 2년 내에 획기적인 도약이 일어날 것이라는 기대는 현실성이 없다고 단언했습니다. 그는 현재의 AI 시스템이 방대한 지식을 검색하고 조합하는 능력은 탁월하지만, 인간처럼 물리적 세계를 이해하거나 새로운 문제를 해결하기 위해 추론하고 계획하는 능력은 결여되어 있다고 지적했습니다. 현재 빅테크 기업들이 진행 중인 막대한 인프라 투자는 미래의 기술적 혁명보다는 당장 늘어나는 사용자 수요를 감당하기 위한 현실적인 필요에 의한 것입니다. 그러나 실제 기업 현장에서는 AI의 환각 현상과 신뢰성 문제로 인해 개념 증명(PoC) 단계에서 상용화로 넘어가는 데 어려움을 겪고 있으며, 이는 마치 자율주행 기술이 완벽한 신뢰성을 확보하는 '마지막 단계(Last Mile)'에서 고전하는 것과 유사한 상황입니다. 르쿤은 단순히 텍스트 데이터 학습을 늘려 AGI를 달성할 수 있다고 믿는 투자는 위험하다고 경고하며, 진정한 지능을 갖춘 AI는 비디오 등 자연 센서를 통해 세상의 작동 원리를 배우는 새로운 아키텍처를 통해 구현될 것이라고 보았습니다. 이러한 발전은 특정 기업의 비밀스러운 발명이 아니라 전 세계 연구 커뮤니티의 협력을 통해 앞으로 3~5년에 걸쳐 점진적으로 이루어질 것이라고 전망했습니다. Yann LeCun: We Won't Reach AGI By Scaling Up LLMS 얀 르쿤:단순히 대규모 언어 모델(LLM)의 규모를 키우는(scaling up) 것만으로는 인간 수준의 AI에 도달할 수 없습니다. 그런 일은 일어나지 않을 겁니다. 네, 그게 제 관점입니다. 절대 불가능합니다. 네, 정말로 불가능해요. 제 모험심 강한 동료들이 뭐라고 하든, 향후 2년 안에는 그런 일이 일어나지 않을 것입니다. 거친 표현을 용서하십시오만, 지옥에 떨어져도(absolutely no way in hell) 그런 일은 없습니다. 데이터 센터 안에 '천재들의 나라'가 생길 것이라는 생각은 완전히 헛소리(complete BS)입니다. 정말 말도 안 되는 얘기죠. 우리가 갖게 될 것은 아마도 충분히 방대한 양의 데이터로 훈련되어, 합리적인 사람이 물어보는 어떤 질문이든 그 시스템을 통해 답을 찾을 수 있는 시스템일 것입니다. 마치 옆에 박사 학위자가 앉아 있는 것처럼 느껴지겠지만, 그것은 당신 옆에 있는 박사가 아닙니다. 그건 거대한 기억력과 검색 능력을 갖춘 시스템일 뿐, 새로운 문제에 대한 해결책을 발명해 낼 수 있는 시스템이 아닙니다. 새로운 것을 발명하는 것이야말로 진짜 박사들이 하는 일이니까요. 이건 숄이 쓴 글과도 연결되는데, 새로운 것을 발명한다는 것은 단순히 기본 구성 요소들로부터는 얻을 수 없는 종류의 기술과 능력을 필요로 합니다. (역주: 문맥상 Keras 창시자 프랑수아 숄레의 "On the Measure of Intelligence", "The implausibility of intelligence explosion" 등을 언급하는 것으로 추정) 그래서 큰 의문이 생깁니다. 지금 이루어지고 있는 투자는 당장 내일을 위한 것이 아닙니다. 향후 몇 년을 위한 것이죠. 적어도 메타 입장에서 투자의 대부분은 추론을 위한 인프라 구축에 ...

문샷(Moonshots) 팟캐스트 – 피터 디아만디스 & 일론 머스크 대담 우리는 이미 특이점(Singularity) 안에 들어와 있습니다. 화이트칼라 업무는 언제 사라질까요? 원자를 직접 다루는(물리적인) 일을 제외한 모든 것이 해당됩니다. AI는 지금 당장이라도 그런 일자리의 절반 이상을 수행할 수 있습니다. 켜고 끄는 스위치는 없습니다. 그것은 다가오고 있으며 가속화되고 있습니다. 전환 과정은 험난할 것입니다. ... 중략 ... 모든 주요 CEO, 경제학자, 정부 지도자들은 "우리가 무엇을 해야 하는가?"라고 물어야 합니다. 현재 우리는 이 상황을 잘 풀어나갈 시스템이 없습니다. 하지만 AI는 이 상황을 잘 해결하는 데 중요한 부분입니다. 중요한 것은 세 가지라고 생각합니다. 진실(Truth): AI가 미쳐 날뛰는 것을 막아줄 것입니다. 호기심(Curiosity): 어떤 형태의 지각 능력이든 키워줄 것입니다. 아름다움(Beauty): AI가 미적 감각을 가진다면 훌륭한 미래가 될 것입니다. -일론 머스크 핵심 통찰 (Key Insights) A. AI와 로봇 공학 (The Singularity & Robotics) AGI 도달 시점: 머스크는 2026년 내에 범용 인공지능(AGI)이 등장하고, 2030년에는 AI가 전 인류의 지능 총합을 넘어설 것으로 예측했습니다. 노동의 변화: 향후 3~5년 내에 AI와 휴머노이드 로봇(옵티머스)이 육체노동뿐만 아니라 외과 수술과 같은 전문 기술직까지 수행하게 될 것입니다. 원자를 다루는 물리적 작업을 제외한 대부분의 화이트칼라 업무는 AI로 대체될 가능성이 큽니다. 옵티머스(Optimus): 로봇 생산 능력은 기하급수적으로 증가하여(연쇄적 기술 발전), 로봇이 로봇을 만드는 단계에 도달할 것입니다. 이는 노동 비용을 극적으로 낮추는 핵심 요인이 됩니다. AI 안전: AI가 '터미네이터'가 되지 않기 위한 3대 원칙으로 진실(Truth), 호기심(Curiosity), 아름다움(Beauty) 추구를 제시했습니다. 특히 AI에게 거짓을 강요하지 않는 것이 안전의 핵심입니다. B. 경제: 보편적 고소득 (Universal High Income) 개념의 전환: 단순한 현금 지급인 보편적 기본 소득(UBI)을 넘어, 보편적 고소득(UHI) 시대로 진입할 것입니다. 풍요의 경제: AI와 로봇으로 인해 재화와 서비스 생산 비용이 자재비와 전기료 수준으로 수렴하면서, 물가가 하락하고 누구나 원하는 재화와 서비스를 누리는 '물질적 풍요'가 실현될 것입니다. C. 에너지와 컴퓨팅 (Energy & Compute) AI의 병목 현상: 현재 AI 발전의 최대 병목은 전력 공급과 냉각 시스템입니다. 칩 공급 부족보다 전력을 칩에 공급하고 열을 식히는 인프라 구축이 더 큰 과제입니다. 태양광의 중요성: 태양은 유일하고도 압도적인 에너지 솔루션입니다. 머스크는 지구 및 우주 기반 태양광 발전을 통해 에너지 문제를 해결할 수 있다고 봅니다. 우주 데이터 센터: 스타십(Starship)을 통해 발사 비용이 획기적으로 낮아지면, 우주 궤도에 데이터 센터와 태양광 발전 위성을 배치하는 것이 가장 효율적인 컴퓨팅 모델이 될 것입니다. D. 우주 탐사 (Space Exploration) 스타십(Starship): 인류를 다행성 종족으로 만들 핵심 기술입니다. 완전한 재사용 로켓 기술이 완성되면 우주 진출 비용이 100만 달러(100톤 기준) 수준으로 낮아질 것입니다. 단기 목표: 달 기지 건설과 화성 탐사를 넘어, 우주 공간을 활용한 에너지 및 컴퓨팅 인프라 구축이 시급한 과제로 떠오르고 있습니다. 전문 번역 피터 디아만디스 (Peter Diamandis): 지금부터 일론 머스크와 함께 낙관주의와 다가오는 풍요의 시대에 초점을 맞춘 광범위한 대화를 나누겠습니다. 제 문샷 동료인 데이브 블런딘(Dave Blundin)과 저는 텍사스 오스틴으로 날아와 1,150만 평방피트 규모의 기가팩토리에서 일론을 만났습니다. 이곳은 사이버트럭과 모델 Y 생산의 본거지이자, 향후 800만 평방피트 규모의 옵티머스(Optimus) 생산 기지가 될 곳입니다. 일론은 1년에 한 번씩 이런 심층적인 대화를 나누기로 동의했습니다. 이것이 앞으로 이어질 많은 대화의 첫 시작이기를 바랍니다. 일론과의 대화 후, 우리가 특이점(Singularity)을 살아가고 있다는 것이 명확해졌습니다. 자, 즐겨주세요. 피터: 네, 당신의 끊임없는 낙관주의는 항상 신선한 공기 같습니다. 일론: 고마워요, 친구. 고맙습니다. 피터: 오늘 밤 많은 사람들과 그 이야기를 나누고 싶습니다. 사람들이 낙관주의를 필요로 하니까요. 일론: 당신 말이 맞길 바랍니다. 그리고 아마 당신 말이 맞을 겁니다. 사실 저는 점점 더 당신이 옳다고 생각하고 있습니다. 모두를 위한 풍요(Abundance) 말이죠. 피터: 네, 그게 목표죠. 시작할까요? 일론: 네. 피터: 지금 칩(Chips)에 많은 시간을 쏟고 계시죠? 개인적으로요. 일론: 네, 맞습니다. 약간의 AI 지원을 받아서요. 설계 단계에서 AI의 도움이 없다면 충분하지 않을 겁니다. 그냥 AI에게 넘겨줄 수 있다면 좋겠네요. 곧 그렇게 되겠죠. 사실 몇 주 전에 AI로 회로 설계를 좀 해봤는데, 아직 완벽하진 않더라고요. 하지만 곧 될 겁니다. 피터: 네. 일론: 아마 지금 시점에서는 그록(Grok)에게 회로 사진을 찍어 보내면 뭐가 잘못됐는지 알려줄 수 있을 겁니다. 피터: 저도 한번 해보겠습니다. 지금 저랑 같은 그록을 쓰고 계신가요? 일론: 그록은 계속 업데이트되고 있습니다. 4.2 버전이지만 5 버전이 곧 나옵니다. 1분기(Q1)에요. 4.2는 아직 외부 공개 전이지만, 이미지를 업로드하면 분석을 꽤 잘합니다. 그록(Grok) 시연과 이미지 분석 피터: 한번 해보죠. 제 사진을 찍으면 뭐라고 할지 궁금하네요. 일론: 아마 "결함이 있는 회로"라고 할지도 모르겠네요. (웃음) 그록 앱을 자주 업데이트해야 합니다. 제가 그록에게 저를 '로스트(roast, 짓궂게 비판)'해달라고 했더니 아주 잘하더군요. 피터: 저도 당신을 로스트해달라고 했더니 커피를 뿜을 뻔했어요. 정말 웃기더군요. 그리고 "더 세게 해봐"라고 계속 시켰더니 나중에는 "맙소사" 소리가 나올 정도였어요. 그록에게 "일론이 네가 한 말을 알고 있냐?"고 물었더니, 그록이(저는 그록을 '그녀'라고 부릅니다) "그가 뭐 어쩔 건데?"라고 하더군요. (웃음) 일론: (웃음) 어디 봅시다. 방금 당신 사진을 찍었습니다. 아무 말도 안 하고 사진만 올렸어요. 피터: 뭐라고 하나요? 일론: "이 사람은 피터 디아만디스입니다. 팟캐스트 '문샷'의 진행자입니다."라고 하네요. 피터: 오, 꽤 정확하네요. 문맥 정보가 전혀 없었는데도요. 위키피디아 업데이트하려고 몇 년을 고생했는데, 팟캐스트가 제일...

핵심 요약 매출 성장: 아모데이는 앤트로픽의 매출이 기하급수적으로 성장하고 있음을 언급했습니다. (2023년 $100M → 2024년 $1B → 2025년 $8B~$10B 전망) -> 성장은 의심하지 마라. We went from zero to $100 million in 2023, we went from $100 million to $1 billion in 2024... YOLO 발언 : 아모데이는 일부 경쟁사들의 과도한 지출을 지적하며 다음과 같이 말했습니다. -> GPU 과잉투자와 과소투자 모두 위험함, 감가상각과 시장 성장을 모두 고려한 투자 필요 "I think there are some players who are 'YOLO-ing', who pull the risk dial too far." (일부 플레이어들은 '욜로'식으로 행동하며 위험 수위를 너무 높이고 있습니다.) 칩 감가상각과 경제적 불확실성 (원문 맥락): 그는 AI 모델의 경제적 가치가 언제 실현될지 모르는 '불확실성의 영역(cone of uncertainty)'을 언급하며, 칩 수명(3년 vs 5년)과 감가상각 계산에 따라 투자의 성패가 갈린다는 점을 강조했습니다. 이는 그가 노르웨이 국부펀드(Norges Bank) CEO 니콜라이 탕겐과의 팟캐스트('In Good Company') 등에서도 꾸준히 강조해 온 '앤트로픽의 보수적 셈법'과 일치하는 내용입니다. -> Neo-Cloud 업체의 존재 이유는 GPU 감가상각 리스크의 위임 기업용(B2B) 시장 집중: 구글이나 OpenAI가 소비자(B2C) 시장에서 'Code Red' 상황을 겪는 것과 달리, 앤트로픽은 기업 고객에게 집중하여 더 높은 마진과 안정성을 확보하겠다는 전략을 설명했습니다. -> 구글이나 OpenAI에이전트 빌더 경쟁 역시 시장의 중심이 B2C에서 B2B로 전환됨을 보여줌, 모두가 아는 사실 전문 [진행자: 앤드류 로스 소킨] 여러분, 안녕하십니까. 점심 식사는 맛있게 하셨는지요. 오늘 오후는 다리오 아모데이와 함께 아주 성대하게 시작해보려 합니다. 그는 현재 인공지능(AI) 분야에서 전 세계적으로 가장 중요한 인물 중 한 분입니다. 물론 '클로드(Claude)' 모델로 유명한 앤트로픽의 공동 창업자이자 CEO이기도 하죠. 앤트로픽은 역사상 가장 빠르게 성장하는 기술 기업 중 하나이며, 현재 아마존, 마이크로소프트, 구글이라는 거대 테크 기업 세 곳 모두의 투자를 받는 유일한 기업입니다. 참고로 그는 이 분야에서 대부분의 사람들보다 훨씬 오랫동안 일해왔습니다. 그는 연구원 시절을 거쳐 구글에서 일했고, OpenAI의 초기 멤버로서 챗GPT-2와 3의 개발을 주도했습니다. 특히 우리가 올해 그 어떤 해보다 그와 이야기를 나누고 싶었던 이유는, 그가 일자리 문제, 일자리 감소, 중국에 대한 칩 판매, 그리고 우리 정치가 나아갈 방향 등 AI와 관련된 민감한 주제들에 대해 가장 거침없고 솔직하게 발언해 온 인물이기 때문입니다. 나와주셔서 감사합니다. 환영합니다. [다리오 아모데이] 초대해 주셔서 감사합니다. [소킨] 이야기할 주제가 아주 많습니다. 우리가 'AI 버블' 속에 있는가 하는 질문도 포함해서요. 하지만 그 질문은 나중에 하기로 하고, 약속드린 대로 여기서부터 시작해 보겠습니다. 당신은 2014년경 연구 과학자로 일하고 계셨죠. 만약 제가 그때 당신 옆에 앉아서 "우리가 2025년에 같이 앉아서 AI에 대해 이야기하게 될 겁니다"라고 말했다면, 당신은 지금 우리가 겪고 있는 일들에 대해 어떻게 예상했을 것 같습니까? [아모데이] 제가 놀란 점과 놀라지 않은 점을 말씀드리겠습니다. 이 기술이 가져온 경제적 영향이나 가치 창출에 대해서는 놀랍지 않습니다. 뉴욕의 광고판을 지나가다 보면 어디에나 AI가 있죠. 2014년 당시에도 저는 이 기술이 어떤 형태로든 실현될 것이고, 경제의 중심, 국가 안보의 중심, 과학 연구의 중심이 될 것이라고 생각했습니다. 하지만 제가 이 분야의 기업 중 하나를 이끌고 있을 거라고는 상상도 못 했습니다. 그건 제게 매우 놀라운 일이었을 겁니다. 당시에는 그런 역할을 제 몫이라고 생각하지 않았으니까요. 그리고 상황이 전개된 구체적인 방식들, 예를 들어 언어 모델(LLM)을 둘러싼 이상한 용어들이나 기술의 금융화 같은 것들은 예상 밖이었습니다. 하지만 모델들이 지금처럼 똑똑해지고 강력해지며 스케일링(확장)되는 방식은, 저와 제 동료들이 예측했던 대로이고 기본 원칙에서 도출되는 결과라 이해가 됩니다. 다만 처음부터 모든 걸 완벽하게 그려내진 못했을 겁니다. [소킨] 좋습니다. 그럼 아까 처음에 하겠다고 했던 질문으로 바로 넘어가죠. 왜냐하면 당신조차 2025년에 우리가 이 정도 위치에 와 있을 거라고는 생각 못 했을 수 있으니까요. 당시 사람들은 훨씬 더 긴 시간이 걸릴 거라고 생각했으니까요. 하지만 당신의 예상이 맞다고 치더라도, 지금 이 산업에 투입되고 있는 막대한 경제적 자원을 보면 어떻습니까? 현재 미국 GDP 성장의 거의 전부가 이 분야에서 나오고 있다고 해도 과언이 아닙니다. 말 그대로요. 우리는 어떤 형태의 버블에 있는 걸까요? 우리가 과잉 지출을 하고 있는 건가요? 이 모든 수지타산이 맞는 겁니까? [아모데이] 이건 정말 복잡한 문제입니다. 기술적인 측면과 경제적인 측면을 분리해서 말씀드리고 싶습니다. 기술적인 측면에서 저는 매우 확고합니다. 저는 누구보다 낙관적인 사람 중 하나이고, 기술적으로는 계산이 딱 떨어집니다. 하지만 경제적인 측면에서는 우려가 있습니다. 기술이 정말 강력하고 모든 약속을 이행한다 하더라도, 생태계 내의 일부 플레이어들이 타이밍을 조금만 잘못 맞추면 나쁜 일이 벌어질 수 있다고 봅니다. 하나씩 짚어보죠. 기술적인 면에서 제가 (순수 기술만 놓고 봤을 때) 크게 놀라지 않는 이유는, 저와 나중에 공동 창업자가 된 동료들이 AI의 '스케일링 법칙(Scaling Laws)'을 처음으로 문서화했기 때문입니다. 컴퓨팅 파워를 늘리고 데이터를 더 많이 넣으면 성능이 좋아진다는 법칙이죠. 최근의 추론(reasoning) 모델이나 테스트 타임 컴퓨팅 같은 것도 결국 작은 수정들에 불과합니다. 저는 이 트렌드를 지난 12년 동안 지켜봐 왔습니다. 가장 놀라운 점은 아주 단순한 방식으로 모델을 훈련시키는데도, 몇 가지 수정만 거치면 세상의 모든 작업 능력이 향상된다는 겁니다. 코딩도 잘하고, 과학도 잘하고, 생물의학, 법률, 금융, 제조까지 다 잘하게 됩니다. 이건 우리 경제 가치의 모든 원천을 나열한 것이나 다름없습니다. 엔트로픽의 경우를 예로 들자면, 우리는 기업(B2B) 시장에 집중하고 있어서 소비자 습관에 영향을 받는 다른 기업들보다 더 정확한 지표가 될 수 있습니다. 우리 매출은 지난 3년간 매년 10배씩 성장했습니다. 2023년에 0에서 1억 달러, 2024년에 1억에서 10억 달러가 되었고, 올해 말에는 80억에서 100억 달러 사이가 될 것으로 보입니다. 이 추세가 계속될까요? 그건 모릅니다. 하지만 기술이 그 방향으로 가고 있고 경제적 가치도 따라오고 있습니다. 물론 성장세는 둔화되겠지만 여전히 매우 빠를 겁니다. 그래서 저는 경제적 가치가 결국에는 따라올 거라는 확신이 있습니다. [소킨] 하지만 이 부분으로 넘어가 보죠. 1년에 1,000억 달러를 쓰겠다는 회사들이 있고, 당신도 500억 달러를 쓰게 될 겁니다. 작년에 여기 왔던 샘 알트먼의 계획을 보면 정말 천문학적인 숫자입니다. 이건 이 방식대로 스케일링이 될 거라는 거대한 베팅인데요, 이게 진짜 계산이 서는 겁니까, 아니면 현시점에서는 '감(gut feeling)'에 의존하는 겁니까? [아모데이] 네, 그게 바로 제가 말하려던 두 번째 부분입니다. 최대한 투명하게 말씀드리겠습니다. 경제적 가치가 얼마나 빨리 성장할지에 대한 불확실성과, 이를 뒷받침할 데이터센터를 짓는데 걸리는 긴 시간(리드 타임) 사이에서 오는 진짜 딜레마가 있습니다. 저는 이것이 진정한 불확실성이자 딜레마라고 생각하며, 우리 회사는 이를 최대한 책임감 있게 관리하려고 노력합니다. 하지만 일부 플레이어들은 소위 '욜로(YOLO: You Only Live Once, 인생은 한 번뿐이니 지르자)' 식으로 행동하며 위험 수위(risk dial)를 너무 높이고 있어 매우 우려스럽습니다. [소킨] 누가 '욜로'를 하고 있습니까? [아모데이] 그 질문에는 답하지 않겠습니다. (웃음) 다시 ...

샌프란시스코 합의 (The San Francisco Consensus) 에릭 슈미트 (Eric Schmidt) 12월 11일 실리콘 밸리의 최근 논쟁을 지켜보는 사람들은 우리 AI 커뮤니티가 도대체 무슨 말을 하는지 모른다고 생각할 수도 있습니다. AI 전문가들은 수많은 쟁점을 두고 분열되어 있습니다. 가장 유명한 것은 AI가 초래할 실존적 위험에 대한 평가가 엇갈리면서 ‘종말론자(doomers)’와 ‘가속주의자(accelerationists)’가 나뉜 것입니다. 하지만 주요 사상가들은 개방형 모델과 폐쇄형 모델의 장단점, 규제의 효용성, 억지력을 위한 국가 안보적 함의 등 해결되지 않은 수많은 문제에 대해서도 의견을 달리하고 있습니다. 그러나 이러한 표면적인 불화 이면에는 몇 가지 핵심 아이디어에 대한 깊은 합의가 존재합니다. AI 개발을 주도하는 대부분의 사람들은 적어도 세 가지 중심 전제에 동의합니다. 첫째, 그들은 소위 '스케일링 법칙(scaling laws)'의 힘을 믿으며, 모델이 거대해질수록 AI의 급속한 발전을 계속 견인할 것이라고 주장합니다. 둘째, 이 혁명의 타임라인이 예상보다 훨씬 짧다고 생각합니다. 많은 AI 전문가들은 이제 2~5년 안에 우리가 초지능(superintelligence)에 도달할 것으로 보고 있습니다. 마지막으로, 그들은 '변혁적 AI(Transformative AI, TAI)', 즉 많은 과제에서 인간을 능가할 수 있는 시스템이 인류에게 전례 없는 혜택을 가져다줄 것이라고 확신합니다. 이러한 믿음은 과학적 진보, 금전적 수익, 그리고 궁극적으로 인간 진보의 기하급수적인 속도를 약속하는 '하키 스틱' 그래프로 표현됩니다. 저는 이러한 중첩된 견해들을 '샌프란시스코 합의(The San Francisco Consensus)'라고 부릅니다. 합의란 대다수의 전문가들, 이 경우에는 기술자, 과학자, 기업가들이 공유하는 일련의 믿음을 말합니다. 전후 케인스주의 합의에서부터 신자유주의 워싱턴 합의에 이르기까지, 지식적 합의의 시기는 항상 관찰 가능한 진실과 기저에 깔린 이념적 헌신의 결합으로 이루어졌습니다. 물론 그러한 합의가 널리 퍼져 있다고 해서 그것이 반드시 진실인 것은 아닙니다. 사실 역사는 우리 실리콘 밸리 사람들에게 겸손해야 할 충분한 이유를 제공합니다. 2000년대 내내 우리 중 다수는 인터넷의 사회적 영향에 대해 지나치게 낙관적이었지만, 그 비전은 허위 정보, 무기화, 정신 건강 위기 등으로 인해 훼손되었습니다. “전후 케인스주의 합의에서부터 신자유주의 워싱턴 합의에 이르기까지, 지식적 합의의 시기는 항상 관찰 가능한 진실과 기저에 깔린 이념적 헌신의 결합으로 이루어졌습니다. 물론 그러한 합의가 널리 퍼져 있다고 해서 그것이 반드시 진실인 것은 아닙니다.” 어쩌면 그래서인지 샌프란시스코 합의가 실리콘 밸리에서는 폭넓게 받아들여지지만, 결코 보편적이지는 않습니다. 일부 주요 사상가들은 현재의 대규모 언어 모델(LLM)이 TAI나 그보다 더 야심 찬 사촌격인 인공 일반 지능(AGI)으로 가는 그럴듯한 경로를 제공하지 못한다고 믿습니다. 또한 피터 틸(Peter Thiel)이 인터넷과 관련하여 유명하게 묘사했던 침체를 AI가 극복할 수 있을지도 두고 봐야 합니다. 틸의 말을 빌리자면: AI 혁명은 우리에게 날아다니는 자동차를 줄까요, 아니면 에밀리 디킨슨 스타일의 140자 레시피를 줄까요? 또한 샌프란시스코 합의가 AI 커뮤니티 전체의 글로벌 합의를 반드시 반영하는 것도 아닙니다. 유럽에서는 많은 사람들이 사회적 영향과 발전 속도 모두에 대해 더 회의적인 경향이 있습니다. 그리고 제가 다른 곳에서 썼듯이, 중국은 AGI에 덜 몰두하고 다양한 분야에 걸쳐 AI를 실용적으로 적용하는 데 더 집중해 왔습니다. 그러나 만약 샌프란시스코 합의가 사실이라면, 다시 말해 AI가 진정으로 변혁적인 것으로 판명된다면, 향후 몇 년은 결정적인 시기가 될 것입니다. 많은 AI 전문가는 AI 시스템이 자율적으로 자신의 능력을 향상시켜 지능의 급격한 폭발로 이어지는 '재귀적 자기 ...