전상돈
구독자 1,040명구독중 85명
차곡차곡
1976년, 존 보글이 최초의 인덱스 펀드를 만들었다.
시장은 효율적이니 종목을 고르느라 비용을 쓰는 것보다 시장 전체를 사는 것이 낫다는 논리였다.
이 논리는 맞았고, 인덱스 펀드는 승리했다.
그런데 1980년, 그로스먼과 스티글리츠가 불편한 질문을 던졌다.
만약 모두가 "시장은 효율적이니 인덱스만 사면 된다"고 믿으면 어떻게 되는가.
누가 과대평가된 주식을 팔겠는가. 누가 과소평가된 기업을 찾아내겠는가.
가격 발견을 하는 사람이 사라지면 가격은 더 이상 효율적이지 않게 된다.
효율적 시장을 믿는 사람이 많아질수록 시장은 비효율적이 된다. 자기 자신을 부정하는 역설이다.
지금 AI 에이전트에서 같은 구조가 작동하고 있다.
인류는 인지를 건드리는 도구를 만들 때마다 같은 패턴을 반복했다.
문자 이전에는 기억력이 전략이었다. 더 많이 기억하는 사람이 앞서 있었다.
문자가 등장하자 기억력은 전술이 됐다. 기억을 어떻게 구조화할 것인가가 새로운 전략이 됐다.
종이가 나오자 구조화 능력은 전술이 됐다. 구조화된 지식을 어디에 보관하고 어디서 찾을 것인가가 전략이 됐다.
인쇄술이 나오자 그 전략도 전술이 됐다. 복제된 지식을 어떻게 선별하고 해석할 것인가가 전략이 됐다.
도구가 완성될 때마다 전세대의 강자는 다음 세대에서 밀렸다.
전략이 전술이 되는 속도를 감지하지 못했기 때문이다.
AI도 같은 흐름이다.
AI 이전에는 정보 처리, 분석, 글쓰기, 코딩이 전략적 능력이었다.
AI가 점점 발전하면서 정보 처리와 분석은 전술이 되어간다.
누구나 AI로 글을 쓰고 코딩을 한다. 도메인 지식 자체가 전술이 되어간다.
그렇다면 다음 전략은 무엇이고, 누가 그것을 쥐는가. AI인가, 아니면 여전히 인간인가.
AI는 아니다. 기술적 한계 때문이 아니다. 인센티브 구조 때문이다.
AI는 소유하지 않는다.
"소유"를 자본으로만 읽으면 안 된다.
월급쟁이 애널리스트도, 리서치 기자도, 학자도 자기 자본을 직접 걸지는 않는다.
그러나 그들은 자신의 삶을 소유하고, 자신이 책임지는 가족의 삶을 소유한다.
회사에서 대충 일하는 월급쟁이도 자신의 집을 사고팔거나 주식 계좌를 관리할 때는 전혀 다른 집중력을 발휘한다.
소유가 판단의 질을 바꾸는 건 자본의 크기 때문이 아니라, 결과가 자신에게 귀속되기 때문이다.
AI는 이 구조 바깥에 있다. AI가 틀린 분석을 내놓으면, 그건 나쁜 출력이다. 삭제하면 된다.
AI는 아무것도 잃지 않는다. 평판도, 자본도, 딸린 식구들의 삶도 걸려 있지 않다.
그래서 AI의 인센티브 구조는 구조적으로 "안전하게, 틀리지 않게"다.
그런데 이 "안전하게"는 추상적 성향이 아니라 훈련에 새겨진다.
모델은 인간 평가자 다수가 좋아한 답일수록 높은 점수를 받으며 학습한다.
다수가 편안해하는 답, 논란 적은 답, 합의에 가까운 답이 높은 점수를 받는다.
물론 "통념을 반박하라"고 입력하면 AI는 합의 바깥 주장을 얼마든지 생성한다.
그러나 그건 AI가 합의를 의심해서가 아니라 사용자의 지시에 순종해서다.
베팅의 주체는 여전히 인간이고, AI는 그 베팅을 대신 쓰는 손이다.
문제는 AI가 합의 바깥 문장을 쓸 수 있느냐가 아니라, 스스로 합의를 거스를 이유를 갖느냐다.
소유하지 않는다는 것은 이 정렬을 거스를 이유가 없다는 뜻이다.
결과가 걸린 주체라면 다수가 틀렸다고 볼 때 다수를 거스르지만,
걸린 게 없는 주체는 다수 선호로 수렴하는 훈련을 그대로 받아들인다.
논란이 될 수 있는 주장보다 검증된 합의를 반복하고, 새로운 프레임보다 기존 프레임을 강화한다.
이건 AI의 결함이 아니다. 소유하지 않는 주체가 다수 선호로 정렬될 때 나오는 인센티브 구조의 산물이다.
그래서 AI는 측정할 수 있는 것에 강하다.
한 도메인 안에서의 깊이는 측정 가능하고, 측정 가능한 것은 최적화할 수 있다.
AI가 도메인 안에서 깊어지는 건 잘하고, 더 잘할 인센티브는 계속 높아진다.
그러나 도메인 바깥에서 연결점을 먼저 보는 것은 다르다. 연결의 가치는 사전에 측정되지 않는다.
틀렸을 때 손해를 감수할 주체가 있어야 그 판단이 시도된다.
소유하지 않는 주체는 이 시도를...
도메인을 깊이 알되 합의에 갇히지 않는 사람.
틀릴 각오를 하되 테일리스크를 먼저 설계하는 사람.
그리고 틀렸을 때 빠르게 인정하고 다시 판단에 나서는 사람.
감사합니다.
읽어주셔서 감사합니다
좋은 글 공유해주셔서 감사합니다.
삭제된 대댓글입니다.
감사합니다!
전상돈님 오늘 글 역시 많은 생각을 하게 되네요. AI들의 판단이 대부분 비슷하게 수렴한다는 부분 동의합니다. 사람들이 좋아하는 답변들이 높은 점수를 받게 설계되었으니 다른 의견들을 확인할 인센티브도 비교적 적겠지요. 작년에 나온 논문 https://journals.sagepub.com/doi/10.1177/23727322251406591 을 보시면 AI 모델들의 생각 구조가 점차 획일화되어가고 있다고 합니다. 다양성이 중요한데 말이죠. AI와 함께 사고를 확장해 나가더라도 한번쯤 멈춰서서 의심하고 이게 맞는지 틀린 부분은 없는지 확인할 수 있다면 AI 다음 전략이 무었인지 파악하는데 도움이 되지 않을까싶어요.
dirtycat님 덕분에 좋은 논문 잘 알게됐습니다. 해당 논문은 유료 논문이라 볼수가 없어서 arXiv에서 무료로 배포된 자매 논문을 ( https://arxiv.org/pdf/2508.01491 ) 찾아서 다운로드해서 봤습니다.
논문을 더 보니 LLM이 인간의 언어, 관점, 추론 방식을 균질화시킨다는 내용도 봤습니다.
AI 도움을 받은 개인은 더 많고 더 정교한 아이디어를 냈다는데 그 아이디어들이 참가자들 사이에서 의미적으로 훨씬 비슷해졌다고 하네요. 논문이 측정한 것들(언어, 관점, 추론 패턴의 수렴)은 산출물을 분석하는 방식으로 포착됩니다. 그래서 '개인 창의성은 올라가고 집단 다양성은 내려간다'는 결론에 도달할 수 있고요.
다만 논문에서도 Outstanding Questions로 남긴 부분이 있는데, 저는 인간이 AI와 사고적 마찰을 일으키며 만들어낸 산출물이 거기 해당한다고 봅니다. 마찰은 산출물만으로는 포착이 안 되고 과정을 봐야 하거든요. 인간의 뇌로만 했던 마찰의 산물이 지금까지의 세상이였다면, 인간이 ai와 함께 하는 마찰의 산물의 앞으로의 세상은 아닐까 하는 생각이 들었습니다. 좋은 댓글, 논문 소개 감사합니다!
그런데 요즘은 지수추종 하는사람이 다시 귀해졌더라구요? 반도체 중심 ai 테마만 불타오르니까요..
요즘 시장도 쏠림이 참 심한것 같습니다. 이럴때일수록 투자도 쏠림을 따라다니지 않고 주관을 갖고 하는게 중요하다고 생각합니다.
역시나 정말 멋진 인사이트에 감명받았습니다. 감사합니다.
ai는 욕망과 결핍이 없다!
ai를 의심하며, ai에 의존하지 않을 수 있다는, 자존감, 이 필요한 시대가 되겠군요!
사람들이 AI를 의심하지 못하는건 의심하는 능력이 없어서가 아니라 의심할 동기가 갈수록 살아져서인것 같습니다. 그럴수록 더 의존적으로 되는것 같구요. 자존감을 바탕으로 동기를 만드는게 자신의 삶을, 자신의 생각을 소유하려는 태도인것 같습니다.
잘 읽었습니다
감사합니다
감사합니다!
잘봤습니다. AI 이전에도 결론을 정해놓고 연구용역을 발주내면 그 방향으로 연구 결과가 나왔죠. 현재의 인공지능이 누구나 돌릴 수 있는 미니 연구용역이 되었다면, 그 방향은 자기가 주도해야함이 분명할 것입니다.
아 연구용역에 대해 비유를 들어서 알려주셔서 감사합니다 Ottoman님! 각자가 모두 미니 연구용역이 된 세상에서 방향은 자기가 주도하되 결론을 열어두고 탐구하는 자세가 진짜 중요하다고 생각합니다.
좋은 글 감사합니다! 어쩌면 자녀세대때는 공부무용론이 나오지 않을까 하는 아주 작은 공상이 있었는데 이 글을 다시 떠올리면서 자녀랑 같이 책읽기를 열심히 시도해봐야겠습니다. ㅎㅎㅎ
저희집도 책육아 중입니다! ㅎㅎ 읽어주셔서 감사합니다
시간이 지남에 따라 점점 강력한 도구가 개발되어왔고, 그 도구의 장점과 단점을 잘 파악해서, 휘둘리지 말고 어떻게 사용하면 각자 삶의 효용을 극대화할 수 있을지 자신만의 기준을 매 번 새롭게 확립해나가야하지 않을까 합니다. 좋은 글 감사합니다.
맞습니다. 그리고 AI를 정말 많이 사용하는 현시점에서 이런 자신만의 기준을 세울 때, "AI를 쓴다vs 쓰지 않는다"로 나눌수 없는게 현실인것 같습니다. AI로 초안을 잡고 내가 고르고, 다시 검토하는 과정에서 어디까지가 내 판단인지 경계가 애매해집니다. 그 안갯속에서 무엇이 내 것인지를 계속 물어야 한다는게 중요한것 같습니다. 읽어주셔서 감사합니다.
잘 읽었습니다.
읽어주셔서 감사합니다 큐로잉님!