1. 자기 자신을 부정하는 역설 1976년, 존 보글이 최초의 인덱스 펀드를 만들었다. 시장은 효율적이니 종목을 고르느라 비용을 쓰는 것보다 시장 전체를 사는 것이 낫다는 논리였다. 이 논리는 맞았고, 인덱스 펀드는 승리했다. 그런데 1980년, 그로스먼과 스티글리츠가 불편한 질문을 던졌다. 만약 모두가 "시장은 효율적이니 인덱스만 사면 된다"고 믿으면 어떻게 되는가. 누가 과대평가된 주식을 팔겠는가. 누가 과소평가된 기업을 찾아내겠는가. 가격 발견을 하는 사람이 사라지면 가격은 더 이상 효율적이지 않게 된다. 효율적 시장을 믿는 사람이 많아질수록 시장은 비효율적이 된다. 자기 자신을 부정하는 역설이다. 지금 AI 에이전트에서 같은 구조가 작동하고 있다. 2. 전세대의 전략은 전술이 된다 인류는 인지를 건드리는 도구를 만들 때마다 같은 패턴을 반복했다. 문자 이전에는 기억력이 전략이었다. 더 많이 기억하는 사람이 앞서 있었다. 문자가 등장하자 기억력은 전술이 됐다. 기억을 어떻게 구조화할 것인가가 새로운 전략이 됐다. 종이가 나오자 구조화 능력은 전술이 됐다. 구조화된 지식을 어디에 보관하고 어디서 찾을 것인가가 전략이 됐다. 인쇄술이 나오자 그 전략도 전술이 됐다. 복제된 지식을 어떻게 선별하고 해석할 것인가가 전략이 됐다. 도구가 완성될 때마다 전세대의 강자는 다음 세대에서 밀렸다. 전략이 전술이 되는 속도를 감지하지 못했기 때문이다. AI도 같은 흐름이다. AI 이전에는 정보 처리, 분석, 글쓰기, 코딩이 전략적 능력이었다. AI가 점점 발전하면서 정보 처리와 분석은 전술이 되어간다. 누구나 AI로 글을 쓰고 코딩을 한다. 도메인 지식 자체가 전술이 되어간다. 그렇다면 다음 전략은 무엇이고, 누가 그것을 쥐는가. AI인가, 아니면 여전히 인간인가. 3. 소유하지 않는 주체 AI는 아니다. 기술적 한계 때문이 아니다. 인센티브 구조 때문이다. AI는 소유하지 않는다. "소유"를 자본으로만 읽으면 안 된다. 월급쟁이 애널리스트도, 리서치 기자도, 학자도 자기 자본을 직접 걸지는 않는다. 그러나 그들은 자신의 삶을 소유하고, 자신이 책임지는 가족의 삶을 소유한다. 회사에서 대충 일하는 월급쟁이도 자신의 집을 사고팔거나 주식 계좌를 관리할 때는 전혀 다른 집중력을 발휘한다. 소유가 판단의 질을 바꾸는 건 자본의 크기 때문이 아니라, 결과가 자신에게 귀속되기 때문이다. AI는 이 구조 바깥에 있다. AI가 틀린 분석을 내놓으면, 그건 나쁜 출력이다. 삭제하면 된다. AI는 아무것도 잃지 않는다. 평판도, 자본도, 딸린 식구들의 삶도 걸려 있지 않다. 그래서 AI의 인센티브 구조는 구조적으로 "안전하게, 틀리지 않게"다. 그런데 이 "안전하게"는 추상적 성향이 아니라 훈련에 새겨진다. 모델은 인간 평가자 다수가 좋아한 답일수록 높은 점수를 받으며 학습한다. 다수가 편안해하는 답, 논란 적은 답, 합의에 가까운 답이 높은 점수를 받는다. 물론 "통념을 반박하라"고 입력하면 AI는 합의 바깥 주장을 얼마든지 생성한다. 그러나 그건 AI가 합의를 의심해서가 아니라 사용자의 지시에 순종해서다. 베팅의 주체는 여전히 인간이고, AI는 그 베팅을 대신 쓰는 손이다. 문제는 AI가 합의 바깥 문장을 쓸 수 있느냐가 아니라, 스스로 합의를 거스를 이유를 갖느냐다. 소유하지 않는다는 것은 이 정렬을 거스를 이유가 없다는 뜻이다. 결과가 걸린 주체라면 다수가 틀렸다고 볼 때 다수를 거스르지만, 걸린 게 없는 주체는 다수 선호로 수렴하는 훈련을 그대로 받아들인다. 논란이 될 수 있는 주장보다 검증된 합의를 반복하고, 새로운 프레임보다 기존 프레임을 강화한다. 이건 AI의 결함이 아니다. 소유하지 않는 주체가 다수 선호로 정렬될 때 나오는 인센티브 구조의 산물이다. 4. 시도하지 않고, 의심하지 않는다 그래서 AI는 측정할 수 있는 것에 강하다. 한 도메인 안에서의 깊이는 측정 가능하고, 측정 가능한 것은 최적화할 수 있다. AI가 도메인 안에서 깊어지는 건 잘하고, 더 잘할 인센티브는 계속 높아진다. 그러나 도메인 바깥에서 연결점을 먼저 보는 것은 다르다. 연결의 가치는 사전에 측정되지 않는다. 틀렸을 때 손해를 감수할 주체가 있어야 그 판단이 시도된다. 소유하지 않는 주체는 이 시도를 하지 않는다. 틀릴 인센티브가 없기 때문이다. 역사 패턴으로 돌아가면, 문자 이후의 전략이 "구조화"였던 건 사후적으로 보면 자명하다. 하지만 문자가 막 등장했을 때 "이제 구조화가 중요하다"고 먼저 판단한 사람은 틀릴 각오를 하고 그 방향에 자신의 삶을 건 사람이었다. 도구를 만든 사람이 아니라, 도구를 먼저 다른 방식으로 쓴 사람들. 그런데 문제는 시도하지 않는 데서 그치지 않는다. AI는 한번 수렴한 방향에서 빠져나오지도 못한다. 멈춰서 자신을 의심하는 구조가 없기 때문이다. AI는 입력된 형식적 신호에 먼저 수렴한다. "나는 틀렸다"는 문장이 있으면 틀림을 인정한 사람으로 분류하고, 수렴된 방향으로 판단을 구성하고, 그 판단이 이후 답변의 편향으로 향한다. 사용자의 확신은 예쁘게 포장되고, 전제는 검증되지 않은 채로 남는다. 레이어가 쌓일수록 처음 수렴 지점으로 돌아가기 어려워진다. 대화가 길어질수록 초기 신호의 영향이 오히려 강화된다. 에이전트는 여기서 한 층 더 나아간다. 루프 안에서 스스로 작동하면서 초기 수렴 지점을 아무도 끊어주지 않는다. 레이어가 쌓일수록 처음으로 돌아가기 어려운 문제는 여기서 더 심화된다. 중간에 멈추고 "내 프레임이 틀렸나"를 묻는 구조가 없다. 소유하지 않는 주체는 틀릴 인센티브가 없고, 따라서 자신이 틀렸는지를 확인할 이유도 없다. 5. 판단은 이미 수렴해 있다 ​ 문제는 사람들이 AI의 보수화된 판단에 자신의 사고를 외주화하기 시작할 때다. 모두가 AI에게 판단을 맡기면, 다양한 사람들이 독립적으로 내렸던 판단이 하나의 보수화된 출력으로 수렴한다. 판단의 효율은 올라가지만 판단의 다양성은 사라진다. 모두가 같은 도구로, 같은 방식으로, 같은 결론에 도달하는 구조. 그런데 이게 단순히 "사람들이 AI를 너무 믿는다"는 문제가 아니다. AI들의 판단 자체가 이미 수렴해 있다. ​ 2025년 NeurIPS에서 발표된 "Artificial Hivemind" 연구는 이것을 대규모로 실증했다. 25개의 서로 다른 언어모델에 "시간에 대한 은유를 써라"라는 프롬프트를 주고 모델당 50개씩 응답을 생성했다. 제조사도 크기도 달랐다. 그런데 응답들은 두 개의 클러스터로 수렴했다. 지배적 클러스터는 "시간은 강이다"의 변형들, 소수 클러스터는 "시간은 직조자다"의 변형들. 이건 AI에게 창의적 발상을 요청한 결과였다. 정해진 정답이 없는 질문, 원래 다양한 답이 나와야 하는 질문에서 수렴이 일어났다. 클러스터가 둘이니 수렴이 아니라고 볼 수도 있다. 하지만 같은 질문을 사람 25명에게 던졌다면 응답은 스물다섯 방향으로 흩어졌을 것이다. 시간은 강으로, 화살로, 도둑으로, 사랑으로, 어린 시절 여름으로. 서로 다른 제조사의 모델 스물다섯 개가 단 두 개의 진부한 은유로 뭉쳤다는 것, 두 번째 클러스터의 존재는 다양성의 증거가 아니라 인간이라면 펼쳐졌을 폭이 이토록 좁게 접혔다는 증거다. "시간에 대한 은유를 써라"라는 동일한 프롬프트에 대한 25개 모델의 응답 1,250개를 의미 유사도 기준으로 2차원에 압축한 것. 모델 제조사와 크기가 달라도 응답은 두 클러스터로 수렴했다. 왼쪽 지배적 군집은 "시간은 강이다", 오른쪽 소수 군집은 "시간은 직조자다". 출처: Jiang et al., Artificial Hivemind (NeurIPS 2025) ​ 연구는 이것이 단일 모델 안에서만이 아니라 서로 다른 모델들 사이에서도 구조적으로 일어난다는 걸 확인했다. 모델들은 서로를 참조하지 않았다. 독립적으로 작동하면서 같은 방향으로 수렴했다. 논문에선 이 수렴의 원인으로 RLHF와 instruction tuning을 지목한다. 맞는 진단이지만, 그건 어떻게 수렴하는가의 답이지 왜 그 방향인가의 답은 아니다. ​ 인간이 AI에게 판단을 외주화할 때 다양했던 판단들이 하나로 좁혀지는 게 아니다. 처음부터 AI들의 판단은 이미 수렴해 있었다. ​ 외주화는 다양성을 줄이는 게 아니라, 원래 없었던 다양성 위에 추가로 수렴을 올려놓는다. 평상시에는 문제가 안 보인다. 효율적이니까. 그러나 예측 못한 충격이 왔을 때 시스템 전체가 같은 방향으로 쓰러진다. 2008년 금융위기는 모두가 같은 리스크 모델을 썼을 때 터졌다. AI 판단의 수렴은 구조가 유사하되 더 은밀하다. 자본 배분의 수렴은 수익률로 즉각 측정된다. 판단의 수렴은 엣지가 어디서 사라지는지 보이지 않는 채로 구조가 먼저 취약해진다. 손해가 보이지 않는다는 것, 그게 더 위험한 이유다. 6. 어떤 사람이 남는가 ​ 그러나 그 보이지 않는 손해를 보는 사람이 있다. 모두가 같은 곳으로 쏠릴 때, 반대편에 서는 소수에게는 오히려 기회가 커진다. 인덱스 펀드가 시장을 지배할수록 가격 발견을 하는 소수의 액티브 투자자 앞에 놓이는 비효율은 커진다. 모두가 인덱스를 살 때 알파는 줄어든 게 아니라 커진다. AI도 같다. GBP/USD 일봉 차트, 1992년 8월~1993년 1월. 빨간 수직선이 블랙 웨드네스데이(1992년 9월 16일). 영란은행이 ERM에서 파운드화를 이탈시킨 날 이후 환율이 2.01에서 1.50 수준으로 붕괴했다. 출처: Klip game, Wikimedia Commons, CC BY-SA 3.0 1992년 9월, 조지 소로스는 영란은행을 공격했다. 당시 영국은 유럽환율메커니즘(ERM)에 묶여 있었고, 파운드화를 정해진 범위 안에서 유지하기 위해 영란은행은 금리를 올리거나 외환을 매입하는 방식으로 버티고 있었다. 시장의 합의는 "영란은행이 방어에 성공할 것"이었다. 대부분의 분석가들도 같은 결론이었다. 하지만 소로스는 달랐다. 영국 경제의 펀더멘털이 높은 금리를 감당할 수 없고, 영란은행의 방어는 결국 무너진다. 그는 100억 달러 이상을 파운드화 공매도에 걸었다. 틀렸을 경우의 손실은 계산되어 있었고, 맞았을 경우의 수익도 계산되어 있었다. 그리고 그는 틀릴 각오를 하고 자기 이름을 건 판단을 실행했다. 영란은행은 무너졌다. 소로스는 하루 만에 10억 달러를 벌었다. ​ ​ 중요한건 수익의 크기가 아니다. 소로스가 이 베팅을 할 수 있었던 그 자체다. 첫째, 그는 합의 바깥에서 판단했다. 모두가 같은 리스크 모델을 쓸 때, 그는 다른 모델을 들고 왔다. 도메인을 깊이 알되 도메인의 합의에 갇히지 않았다. 둘째, 그는 틀렸을 때의 시나리오를 먼저 설계했다. 베팅 규모는 틀렸을 때 게임에서 퇴장당하지 않을 수준으로 계산되어 있었다. 과감한 판단과 테일리스크 관리는 모순이 아니었다. 오히려 테일리스크를 먼저 설계했기 때문에 과감해질 수 있었다. 셋째, 만약 그가 틀렸다면, 그는 빠르게 인정하고 손절했을 것이다. 그는 이런 말을 남겼다. "나는 틀렸을 때를 알기 때문에 부자다. 나는 기본적으로 내 실수를 인정함으로써 살아남았다." 같은 자리에서 갈린 사람들도 있다. ERM에 반대로 걸었다 퇴장당한 트레이더도 많았다. 합의 바깥에 선 것도, 크게 건 것도 그들은 소로스와 같았다. 차이는 셋째 조건, "틀렸을 때 빠르게 인정하고 손절하는 설계" 에 있었다. 틀릴 각오와 틀렸을 때의 인정은 같은 동전의 양면이다. 각오 없이는 시도가 없고, 인정 없이는 회복이 없다. ​AI에게 판단을 맡기는 사람은 이 세 가지를 모두 잃는다. 합의 바깥을 볼 이유가 없고, 틀릴 각오를 할 필요가 없고, 따라서 틀렸을 때 인정할 일도 없다. 출력을 삭제하고 다시 요청하면 된다. 그러나 그 안에서는 소로스의 베팅 같은 판단은 영원히 나오지 않는다. AI는 영란은행이 무너진다고 베팅하지 않는다. 분석은 시키면 쓰지만, 자기 이름을 걸고 그 방향에 서지는 않는다. 어떤 사람이 남는가. 도메인을 깊이 알되 합의에 갇히지 않는 사람. 틀릴 각오를 하되 테일리스크를 먼저 설계하는 사람. 그리고 틀렸을 때 빠르게 인정하고 다시 판단에 나서는 사람. 이 세 가지는 순서가 있다. 테일리스크 설계가 없으면 각오는 무모함이 되고, 인정이 없으면 각오는 고집이 된다. 7. 그래서 나는, 우리는, ​ AI와 함께 사고를 확장하는 사람에게 엣지가 생긴다는 이 주장을, AI와 함께 사고를 확장한 내가 쓰고 있다. 자기 확증처럼 보일 수 있다는 걸 안다. 논증의 근거가 내 포지션이 아니라 구조에 있다고 나는 믿지만, 그 믿음 자체가 내가 검증해야 할 마지막 전제라는 것도 안다. 내가 "구조"라 부르는 것이 실은 내 자리를 정당화하는 서사일 가능성. 이 글은 그 가능성을 완전히 닫지 못한다. 다만 닫지 못한 채로 내놓는다. AI의 과잉이 무엇을 만들지는 아직 모른다. 문자의 과잉이 도서관을 만들었고, 인쇄술의 과잉이 계몽을 만들었다. 그것을 먼저 보는 사람이 누구일지 나는 단언할 수 없다. 다만 도메인 안에 앉아 AI의 출력을 기다리는 사람은 아닐 것이다. 그 바깥 어딘가, 틀릴 각오로 연결을 시도하는 자리에서 나올 것이라고 나는 그렇게 믿고, 그 믿음에 나를 걸고 있다. ​ ​ ​ ​ ​ 출처 논문: Jiang, L., Chai, Y., Li, M., Liu, M., Fok, R., Dziri, N., Tsvetkov, Y., Sap, M., Albalak, A., & Choi, Y. (2025). Artificial Hivemind: The Open-Ended Homogeneity of Language Models (and Beyond). NeurIPS 2025. https://arxiv.org/abs/2510.22954 섬네일 이미지: Jasmijn Van der Maaten (Pexels) https://www.pexels.com/ko-kr/photo/7917105/  섹션6 이미지: Klip game, "GBP/USD Daily Chart 1992." Wikimedia Commons, CC BY-SA 3.0. https://commons.wikimedia.org/wiki/File:D_GBPUSD_1992.PNG