홍진채-<주식하는 마음>-1. 왜 AI는 투자를 못하는 걸까?

(이번 글은 골드브루님이 운영하시는 뉴로진스 북클럽에서 이번 한달동안 다루기로 한 홍진채 작가님의 <주식하는 마음>을 읽고 생겨난 질문과 그에 대한 제 사견을 공유하고자 쓰여졌습니다)

이 질문의 시작은 본 책의 [PART1 우리의 마음은 투자에 실패하도록 설계되어 있다], 더 엄밀히 말하면, [Chapter 2. 진화를 탓하세요 당신 잘못이 아닙니다.]에서, 다음의 문장에서 시작되었습니다.

인간의 두뇌는 자본시장에 적응하지 못했습니다. 아직은요.

저는 이 문장을 '인간의 두뇌는 먼 미래에는 자본시장에 적응가능할 수도 있다'라는 암시처럼 느껴졌습니다.

그리고 해당 챕터에서는 행동경제학, 진화심리학, 그리고 뇌과학까지 아우르며 '왜 인간이 생물학적으로 투자에 실패할 수밖에 없는가'를 다루었습니다.

그러면서, 자연스럽게 저는 'Alien Intelligence'인 AI(Articicial Intelligence)가 생각났습니다.

이 비유는 역사학자 유발 하라리가 사용한 비유인데, AI는 인간 사고와는 전혀 다른 방식으로 사고한다는 점을 꼬집으면서 이야기했었습니다.

실제로, AI 전문가들은 그들을 학습시키는 방식을 알지만, AI 자체 내부에서 어떻게 작동하는 지에 대해서는 논쟁이 많은 것으로 알고 있습니다:

Geoffrey Hinton: We don't fully understand how it works

다만 거시적인 틀에서는, AI의 사고과정에서 복잡한 확률 수치계산과 트리를 볼 수 있습니다. 또한 알파고의 37수와 같이, 설명할 수 없는 창발성도 발견되기도 했죠. 이제는 생물학적 문제와 더불어, physical한 영역들에서의 multimodal의 형태를 띈 상태입니다. 즉 AI는 생물학적이지 않은; 확률을 계산하는 사고 및 추론하는 존재입니다.

그럼에도 불구하고, 그들의 주식 투자 수익률은 매우 저조합니다.

물론 그들을 변호하자면, 그들의 투자성과를 평가하기에는 너무 단기간이라는 점을 고려해야 합니다. 하지만 그럼에도 불구하고, 인간의 사고방식과 다름에도 불구하고, 왜 AI는 투자에 실패하는 것인가를 생각해야 합니다.

저는 크게 두가지의 가능성으로 이 문제의 답을 낼 수 있다고 생각합니다.

하나는 '지금의 AI가 기술적 차원에서 부족하거나, AI 개발진들의 문제로, AI가 투자를 못한다'입니다.

또 한 가지는 '인간과 마찬가지로, AI는 태생적인 이유로 투자에 실패할 수 밖에 없는 이유가 있다'입니다.

두 문제의 답 모두 굉장히 도발적입니다.

첫번째 가능성은 섬뜩한 예언으로도 들립니다. 언젠가는 다른 영역들과 마찬가지로, AI가 투자세계를 정복하여, 더이상의 알파는 존재하지 않은, 완전한 효율적 시장이 도래할 것이라는 예언이며,

두번째 가능성은 '투자라는 행위는 다른 행위들과 다르기에, AI의 작동 방식과 맞지 않는다'라고 꽤 과찬스러운 선언한 격입니다. 하지만 두번째 가능성은 우리로 하여금 투자에서 요구로 하는 <무언가>를 조금 다른 시각에서 설명할 수 있지 않을까라는 생각이 듭니다.

일단 첫번째 가능성; 기술적 문제를 생각해봅시다.

우선 '차원의 저주(Curse of Dimensionality)'이 있습니다. 강화학습은 에이전트의 퍼포먼스를 스칼라 함수로 만들어 최적화하는 과정이다. 이를 위해선 문제의 맥락인 벡터 공간을 모델링해야 하는데, 투자 세계의 변수는 무한에 가깝습니다. 심지어 금리나 재무제표 같은 정량적 데이터는 쉽지만 CEO의 미묘한 표정 변화, 대중의 광기, 지정학적 위기 같은 비정형 데이터는 수치화하기 어렵습니다. 그렇기 때문에, 적절한 벡터공간의 차원이 무엇인지, 그리고 얼마나 큰 지 등 스케일 문제가 존재합니다.

다음은 '수학적 과적합(Overfitting)'입니다. 이는 <주식하는 마음> 본책에서도, 인간이 왜 실패하는가를 다룰 때 큰 이유와 유사하는데, 인간의 뇌가 풀숲의 바람 소리를 호랑이로 착각하며 생존해왔듯, AI 역시 과거 데이터 속에서 우연한 노이즈를 필승 패턴으로 착각합니다. 거짓 상관관계를 학습한 AI는, 인간의 미신적 사고와 놀랍도록 닮아 있습니다. 그리고 이러한 과적합은 과거데이터가 적다라는 점에서 더더욱 큰 영향을 주게 됩니다.

또 다른 이유로는 목표함수와 보상을 설계하는 인간 개발진의 한계입니다. 사실 이 부분은 앞선 예시들과 매우 밀접하게 연관되어 있습니다. 과적합하기 쉽고, 적절한 벡터공간의 정의가 어려운 상황에서, 목표함수와 적절한 보상을 개발진들이 설계하기는 어렵습니다. 사실 이부분은 투자뿐만아니라, 이야기될 부분이 많습니다. 예를 들어 일리야 수츠케버(Ilya Sutskever)는 팟캐스트에 나와서 "현재 AI 시스템의 보상 체계에는 진정한 의미의 '가치함수(Value Function)'가 ...