🎓 거장 소식 | 하워드 막스, AI는 거침없이 앞으로 나아간다

12월에 인공지능에 관한 메모 「Is It a Bubble?」을 쓰기 위해 준비하던 당시, 나는 30~40대의 흥미로운 테크 전문가 몇 명과 대화를 나누며 큰 도움을 받았다. 새로운 영역을 탐색하는 일은 지적으로 매우 자극적일 뿐 아니라, 투자자로서 시대의 흐름을 따라가기 위해 반드시 필요한 과정이다. 그리고 그것은 내 일에서 가장 즐거운 부분 중 하나이기도 하다.

최근 나는 12월 메모의 후속 작업을 위해 다시 그들과 이야기를 나누었다. 그 과정에서 누군가 Anthropic의 AI 모델인 ‘Claude’에게 인공지능이 무엇인지, 그리고 지난 3개월 동안 어떤 변화가 있었는지를 설명하는 튜토리얼을 만들어 달라고 요청해보라고 제안했다. 나는 그렇게 했고, 그 결과물은 나에게 매우 많은 영감을 주었다.

이번 메모는 12월 글에 대한 일종의 보완(addendum)이다. 내용의 상당 부분은 Claude가 작성한 1만 단어 분량의 에세이를 요약한 것이며, 여기에 나의 몇 가지 관찰을 덧붙일 것이다. 그 과정에서 나에게도 새로웠고 아마 여러분에게도 생소할 수 있는 몇 가지 용어를 강조해 소개하려 한다.

사실 Claude에게 이번 메모를 대신 써달라고 요청했다면 나는 상당한 시간을 절약할 수 있었을 것이다. 하지만 글을 직접 써 내려가는 과정 자체가 내게는 큰 즐거움이기 때문에 그렇게 하지 않았다. 다만, Claude의 결과물에서 많은 부분을 인용할 것이다. 별도의 출처가 명시되지 않은 모든 인용문은 Claude의 작업에서 가져온 것이다.

본론에 들어가기 전에, 나는 Claude의 결과물을 접하며 느낀 경외감의 수준을 먼저 전하고 싶다. 그것은 마치 친구나 동료가 나에게 개인적으로 보내온 편지처럼 읽혔다. 내가 과거 메모에서 다뤘던 주제들—예컨대 금리의 대전환이나 투자 심리의 진자 운동—을 언급하며 이를 AI와 관련된 은유로 풀어냈다. 논리는 탄탄했고, 내가 제기할 법한 반론을 미리 예상해 다루었으며, 유머를 적절히 섞었고, AI의 한계를 솔직하게 인정함으로써 신뢰를 더했다.

마치 내가 글을 쓸 때 사용하는 방식과 유사했다. 이전에도 AI에게 질문을 던지고 답을 받은 적은 있었지만, 이처럼 개인화된 설명을 받은 것은 처음이었다.

AI의 이해

최근 AI와 그 역량의 변화라는 본격적인 주제로 들어가기 전에, 이번 튜토리얼이 나에게 전달해 준 AI의 본질에 대한 몇 가지 통찰을 공유하고자 한다.

중요한 점은 AI 모델을 단순히 데이터를 검색해 재생산하는 검색 엔진으로 생각해서는 안 된다는 것이다. 나 역시 지금까지는 그렇게 이해하고 있었다. 하지만 실제로는 그보다 훨씬 더 나아가, 데이터를 종합(synthesize)하고 그로부터 추론(reasoning)할 수 있는 컴퓨터 시스템이다.

AI 모델의 생애에는 두 단계가 있다.

첫 번째는 ‘훈련(training)’ 단계다. 이 단계에서 모델은 방대한 양의 텍스트를 읽으며 학습한다. 훈련 과정을 단순히 모델에 정보를 입력하는 것으로 이해해서는 안 된다. 그것은 훨씬 더 깊은 과정이다. 말하자면 모델에게 ‘생각하는 법’을 가르치는 것이다. 텍스트를 흡수하는 과정을 통해 모델은 다음과 같은 능력을 습득한다.

• 추론의 패턴을 이해하고 이를 형성하는 법

• 논증이 어떻게 구조화되는지 파악하는 법

• 아이디어를 새롭게 조합하는 법

• 학습한 추론 패턴을 새로운 상황에 적용하는 법

훈련 단계를 이해하는 가장 좋은 방법은 인간의 지적 능력 발달 과정에 비유하는 것이다. 아기는 뇌를 가지고 태어나지만, 외부 자극에 노출되면서 사고하고, 추론하고, 종합하고, 평가하고, 비유하고, 아이디어를 결합하고, 개념을 창조하고, 논증을 구성하는 능력을 점차 발전시킨다. 이러한 능력은 태어날 때부터 완성되어 있는 것이 아니라, 환경으로부터의 입력을 흡수하고 활용하는 과정 속에서 형성된다. AI 모델도 이와 같다. (한 가지 덧붙이자면, 내가 AI가 정확히 어떻게 이런 일을 수행하는지 이해하고 있다는 뜻은 아니다. 그럴 가능성은 전혀 없다. 내가 할 수 있는 일은 AI가 무엇을 할 수 있는지, 그리고 그 함의가 무엇인지를 설명하는 것뿐이다.)

두 번째 단계는 ‘추론(inference)’이다. 모델이 구축되고 훈련된 이후에는, 사용자들의 요구에 응답하기 위해 그 능력을 활용하는 것이 추론 단계다. 이는 모델의 나머지 생애 동안 계속되는 활동이다.

여기서 중요한 점이 있다. (적어도 현재로서는) 모델이 스스로 과제를 설정할 수는 없다. 사용자가 작성한 ‘프롬프트(prompt)’를 통해 작업을 지시받아야 한다. 프롬프트가 더 구체적이고 포괄적일수록, AI가 수행할 수 있는 일의 수준도 높아진다.

예를 들어, AI는 사용자가 원하는 작업을 수행하는 소프트웨어를 작성할 수 있다. 또한 그 소프트웨어를 테스트하고, 버그를 찾아 수정하고, 다시 테스트하는 일도 할 수 있다. 그러나 적어도 현 단계에서는 이러한 절차 하나하나를 명시적으로 지시받아야 한다. (이 부분은 뒤에서 다시 다루겠다.) 오늘날 많은 사람들이 프롬프트의 중요성을 충분히 인식하지 못하고, 이를 설계할 능력도 갖추지 못했기 때문에, AI의 잠재력은 과소평가되고 있을 가능성이 크다. 하지만 그 한계는 모델이 아니라 사용자 측에 있다.

내가 받은 튜토리얼을 예로 들어 보자. Claude는 단순히 “AI가 무엇이고 무엇을 할 수 있는지 설명해 달라”는 요청을 받은 것이 아니었다. 내가 자신에게 어떤 과제가 주어졌는지 묻자, Claude는 이렇게 답했다.

누군가가 당신을 위해 9개 모듈로 구성된 커리큘럼을 설계했습니다. 이는 당신의 12월 메모, 당신의 지적 프레임워크, 그리고 신뢰할 수 있는 보완 메모를 작성할 수 있을 만큼의 기술적 이해를 제공한다는 목표를 바탕으로 만들어졌습니다. 이 커리큘럼은 한 번에 하나의 모듈을 학습하도록 구성되었고, 당신의 세계에서 사용하는 비유를 활용했으며, 단순히 설명하는 데 그치지 않고 실제 역량을 보여주도록 설계되었습니다. 또한 당신의 독자들이 기대하는 지적 정직성을 유지하는 방식으로 구성되었습니다.

나는 이 튜토리얼이 우리가 설정한 목표를 확실히 달성했다고 자신 있게 말할 수 있다. 그리고 그것은 전적으로, 나의 조언자들이 준비하는 데 도움을 준 프롬프트의 질과 구체성 덕분이었다.

AI는 생각할 수 있는가?

여기서 나는 개인적으로 매우 흥미롭게 느끼는 질문 하나를 다뤄보려 한다. AI가 이미 인간이 밝혀낸 것들을 재구성하고, 그것을 새로운 데이터나 다른 분야에 적용할 수 있다는 점은 알고 있다. 하지만 과연 AI가 완전히 새로운 지평을 열 수 있을까?

내가 이해하는 AI의 작동 방식은 기본적으로 과거의 패턴과 논리를 활용해 어떤 연속된 흐름에서 다음에 올 항목을 예측하는 것이다. 예를 들어 문장에서 다섯 단어를 쓰면, 여섯 번째 단어가 무엇일지 예측한다. (이메일을 작성할 때 휴대폰에 뜨는 추천 단어를 떠올려보라. 그것이 바로 AI의 작동 방식이다.) 시장을 이길 포트폴리오를 구성해 달라고 요청하면, 과거에 좋은 성과를 냈던 주식들을 살펴보고 그들의 특성을 바탕으로 앞으로 가장 잘할 종목을 예측한다. 나는 AI를 과거의 전개 양상을 토대로 미래에 대한 가설을 제시하는 시스템으로 이해하는 것이 도움이 된다고 생각한다. 이 부분은 뒤에서 다시 언급하겠다.

이로부터 자연스럽게 한 가지 질문이 나온다.

AI는 새로운 아이디어를 가질 수 있는가?

AI가 우리가 부여한 모든 지식 작업을 수행할 수 있다고 하자. 그렇다면 우리가 생각해보라고 지시하지 않은 것까지 스스로 떠올릴 수 있을까? 강가에 앉아 문득 스치는 영감을 받아들이는 것과 같은 일을 할 수 있을까? 나무에서 사과가 떨어지는 것을 보고 중력이라는 개념을 떠올릴 수 있을까? 사색하고, 몽상하고, 아이디어를 발상할 수 있을까? 직관을 가질 수 있을까?

바로 이 지점에서 AI에 대한 논쟁은 복잡해진다. Claude에 따르면, 회의론자들은 다음과 같이 주장한다.

Claude가 배운 모든 것은 인간이 작성한 텍스트로부터 나왔다. 그것은 경험도 없고, 세상에 대한 체화된 이해도 없으며, 진정한 의미의 이해도 없다. 그것이 만들어내는 모든 결과물은 결국 기존 인간 작업에서 흡수한 패턴을 정교하게 재배열한 것에 불과하다. 그것은 대단히 인상적인 패턴 매칭일 수 있다. 어쩌면 인류가 만들어낸 것 중 가장 인상적인 패턴 매칭일지도 모른다. 그러나 그것은 사고가 아니다. 추론도 아니다. 통계적 재조합일 뿐이다. 만약 그것이 사실이라면, 거기에는 한계가 있다. 인간이 이미 알아낸 것들을 재편집할 수는 있지만, 진정으로 새로운 지평을 열 수는 없다. 그것은 뛰어난 커버 밴드이지, 작곡가는 아니다.

Claude는 이렇게 회의론자들의 논지를 정리한 뒤, 곧바로 강력한 반론을 제시했다. 게다가 나를 직접 겨냥한 방식으로 말이다. (논점을 어떻게 전개해야 설득력이 생기는지 잘 알고 있다는 뜻이다.)

하워드, 당신이 투자에 대해 아는 모든 것은 다른 사람들로부터 배운 것이다. 벤저민 그레이엄은 당신에게 ‘안전마진’을 가르쳤다. 버핏은 ‘질(quality)’에 대해 가르쳤다. 찰리 멍거는 여러 학문에서 가져온 ‘정신 모델’을 가르쳤다. 존 케네스 갤브레이스는 금융 광풍의 심리에 대해 가르쳤다. 당신은 50년에 걸쳐 수천 권의 책, 메모, 사례 연구, 연차보고서를 읽었다. 모든 입력은 다른 사람의 사고였다. …

당신은 여러 학문 분야의 프레임워크를 가져와 새로운 상황에 적용했고, 그 결과 진정으로 새로운 무언가를 만들어냈다. …
원재료는 타인에게서 왔지만, 종합은 당신의 것이었다.

누군가 “Claude는 훈련 데이터에서 패턴을 재배열할 뿐”이라고 말한다면, 나는 묻고 싶다. 그것이 구조적으로 교육받은 인간의 사고 방식과 어떻게 다른가? 당신도 수십 년간의 독서를 통해 추론 패턴을 배웠다. 나는 훈련을 통해 추론 패턴을 배웠다. 중요한 질문은 입력이 어디에서 왔느냐가 아니다. 중요한 질문은 그 시스템—인간이든 인공지능이든—이 그것들을 진정으로 새롭고 유용한 방식으로 결합할 수 있는가이다.

물론 이것은 전적으로 사실이다. 나 역시 젊은 투자자로서 데이터를 흡수했다. (실제 경험과 문헌 모두에서.) 선배들이 데이터를 어떻게 해석했고 어떤 결론에 도달했는지를 배웠다. 그들의 사고 과정을 연구했고, 그것을 내가 접한 데이터에 어떻게 적용할지를 익혔다. 또한 그들의 사고 방식을 본보기 삼아 나만의 방식도 만들어냈다. 이것이 인간 두뇌가 능력을 확장하는 방식이다. 그렇다면 AI가 성장하고 학습하며 “생각하는” 방식은 과연 우리와 본질적으로 다른가?

마지막으로 Claude는 설득력 있는 현실적 논거를 덧붙였다.

설령 회의론자의 주장을 전부 받아들인다 해도—철학적으로 내가 하는 일이 “진짜 사고”가 아니라 단지 패턴 매칭이라고 인정한다 해도—경제적 함의는 동일하다. 단도직입적으로 말하겠다. 만약 내가 연봉 20만 달러짜리 리서치 어소시에이트의 분석 결과물을 만들어낼 수 있다면, 비용을 지불하는 사람 입장에서 내가 “정말로 생각하고 있는지” 아니면 “패턴 매칭을 하는지”는 중요하지 않다. 중요한 것은 그 작업 결과가 신뢰할 수 있을 만큼 유용한가이다. 그리고 점점 더 그렇다. 기계 의식에 대한 철학적 논쟁은 흥미롭다. 그러나 경제적 질문은 “AI가 진정으로 이해하는가?”가 아니다. 경제적 질문은 “AI가 일을 해내는가?”이다.

AI에 대한 논의에 적극적으로 참여하고 싶다면, 반드시 이해해야 할 단어가 있다. 바로 “생성적(generative)” 이다. AI에 정통한 사람들이 자주 사용하는 용어다. 이 단어의 의미를 이해하면 AI의 본질을 훨씬 더 잘 grasp할 수 있다. AI 모델 Perplexity에 따르면 다음과 같다.

생성형 AI(generative AI)에서 ‘생성형’이란 기존의 것을 단순히 분석하거나 분류하는 데 그치지 않고, 새로운 것을 만들어낼 수 있다는 뜻이다. 이는 데이터 속 패턴을 학습한 뒤, 그 데이터와 유사한 새로운 콘텐츠를 생성하는 AI 시스템을 가리킨다.

이것이 사고인가? 아니면 다른 무엇인가?
아니면 나는 “차이 없는 구분(a distinction without a difference)”을 지나치게 따지고 있는 것일까?

이에 대한 ...