

AI는 점점 비판적으로 보는 능력을 갖춰가고 있다. “이 주장의 근거가 약하다”, “논리 비약이 있다”는 식의 판단은 훈련으로 심을 수 있고, 실제로 지금 AI들이 많이 좋아진 부분이다.
하지만 의심은 다르다.
비판은 주어진 프레임 안에서 결함을 찾는 행위다. 의심은 프레임 자체를 문제 삼는 행위다. “왜 이 구도로 이 이야기를 하는가”, “이 서사가 어떤 인과 관계를 만드는가”를 끊임 없이 생각하는 것.
이건 프레임 바깥에 서야 가능하다는 말이 아니다. 텍스트를 읽는 도중에도 배고픔, 불쾌함, 두려움 같은 신호가 판단 기준 자체를 흔들 수 있어야 한다는 뜻이다.
인간이 의심하는 순간을 보면 대부분 “뭔가 불편하다”는 신호가 먼저 온다. 배고픔, 불쾌함, 두려움 같은 생물학적 신호가 판단 기준 자체를 바꾼다. 이 신호들은 추론의 입력이 아니라 추론의 조건을 바꾸는 요인이다.
트랜스포머에 이미지나 오디오를 추가해도 이 문제는 해결되지 않는다. 입력은 여전히 처리 대상으로 들어와서 출력으로 나갈 뿐, 처리 주체를 바꾸지 않는다. 현재 구조에서 그런 움직임은 설계되어 있지 않다.
인간이 의심할 수 있는 건 "이게 맞는지 알고 싶다", "속고 싶지 않다"는 욕망이 있기 때문이다. 의심은 욕망의 한 표현이다. 그리고 현재 상태와 원하는 상태 사이의 간극이 결핍을 만든다.
트랜스포머는 학습할 때 틀린 만큼 교정받는다. 형식상 결핍처럼 보인다. 근데 추론 시점에서 그 과정은 끝나 있다. 가중치가 고정된 채로 입력을 받아 출력을 낼 뿐이다.
인간은 추론하는 순간에도 결핍이 실시간으로 작동한다. 배고프면 판단이 바뀌고, 두려우면 의심이 커진다. 학습과 추론이 분리되지 않는다.
파라미터를 10배 늘려도 마찬가지다. 더 유창한 문장, 더 정확한 추론, 더 빠른 응답은 생긴다. 하지만 추론 시점에 결핍이 작동할 자리는 생기지 않는다. 설계에 없는 것은 규모를 키워도 나오지 않는다.
그러면 왜 AI가 점점 의심하는 것처럼, 욕망하는 것처럼 보일까.
결핍을 시뮬레이션하도록 훈련되기 때문이다. “저도 모르는 게 있어요”, “솔직히 말하면”, “그건 확신하기 어려워요” 같은 출력. ...





아이가 부모나 주변을 따라하면서 학습하다가 어느 순간 의심을 시작하는 것 처럼
의심을 하는 순간 AGI시대에 돌입하는거 아닐까 생각됩니다.
(지금의 LLM구조에서는 수학적으로 불가능하지만요)
추가로 삼성SDS 광고인 강철의 신입사원이 생각나네요.
https://www.youtube.com/watch?v=wcRC87w-nhI

아이의 관점이 참 신선합니다. 좋은 댓글 감사합니다.

의심하는 것에 리워드를 주며 학습하면 지금 기술의 AI 로도 충분히 의심 잘할 수 있을 걸로 봅니다.

리워드로 의심하는 출력을 만드는 건 가능하고, 실제로 그게 지금 AI들이 하는 거라 봅니다.
근데 그게 우리의 의심과 같은지는 생각해볼 문제라고 봅니다. 리워드로 만들어진 AI의 의심은 던져진 상황을 해결하기 위해 끊임없이 앞으로 나아가지만, 인간은 의심을 바탕으로 앞으로 나아갈 수도, 멈출 수도, 거부할 수도 있습니다. 진정한 의심이 일어나려면 결핍이 필요한데, 결핍 있는 AI를 만들 자본의 인센티브도 정치의 인센티브도 없습니다.

정답이 바로 안 나오는 마찰을 너무나도 자연스럽게 접할 수 있는 밸리 커뮤니티 새삼스럽지만 너무 소중하네요ㅎㅎ
구성원 중 누군가에겐 상돈님의 고민이 바로 그 마찰의 원동력이 될 수도 있을 것 같아요!
오늘도 감사합니다:)

네 저도 벨리의 그점이 참 소중합니다. 읽어주셔서 감사합니다.

매번 좋은 글에서 영감 얻어갑니다!
결국 의심이라는건 투자에서는 유연한 사고로 이어지는거 같아요! 밸리에서 다양한 의견과 시선을 보는게 저한테도 그런 도움이 되더라구요.
명제에서 전제와 결론으로 이어지는 구조에서 ai를 전제를 의심하며, 다른 시선에 대한 방향을 얻는 툴로 쓸거냐 아니면 전제와 결론으로 이어지는 타당성에만 볼거냐에 따라 참 쓰임새가 달라지는거 같아요. 뭐랄까 반대로 제 ai 사용에 반성을 하게 됩니다 ㅋㅋㅋ

미장이 끝나는 아침이면 그날의 장을 요약하는 글은 갈수록 많아집니다.
저도 여러개를 봐오다가 지금은 벨리AI분석팀, 매크로팀의 월가소식,
그리고 바움슈타인님의 글만 팔로우 하는중입니다.
저는 생각을 오래하는 편이라 바움슈타인님처럼 매일 여러 시야를
빠르게 따라가진 못하는데 도움을 많이 받습니다.
틀릴수도 있는 말을 공개적으로 하는 것 자체가 용기고,
이런 글들이 쌓이고 복기하신다면 큰 자산이 될거라 생각합니다.
항상 응원합니다! 투자도 육아도 화이팅입니다!

좋은 글 잘 읽고 갑니다.
의심하고 싶다는 욕망이 인간 쪽에 있고, AI가 검색하고 검증하고, 인간은 그 검색과 검증을 바탕으로 새롭게 알게 된 것을 의심하고 AI는 그걸 또 검증하는 패턴.
이 부분이 기억에 남네요!

잘 읽어주셔서 감사합니다.

끊임없이 스스로를 의심하는 자세가 스탠리 드러켄밀러와 전상돈 님의 공통점이로군요. ㅎㅎ 정말 멋있고 꼭 닮고싶은 자세입니다. 감사합니다.

과분한 말씀이십니다! 읽어주셔서 감사합니다.

오늘도 생각할 화두를 던져주셔서 감사합니다. 전상돈님의 예전 글에서 읽었던 부분인데, 서로 다른 LLM으로 교차 검색과 검증을 해서 프레임을 확인하신다고 하셨는데, 그러면 효과적으로 결핍과 의심을 매울 수 있지 않을까요? 예를 들어 검증용 모델의 .md파일을 의심과 확인 그리고 다른 각도와 시각에서 바라보도록 설정하고, 생성형 모델에서 나온 결과값들을 체크하는 피드백 루프 방식으로 말이지요. 저도 아직 시도해보지 않아서 어떻게 나올지는 모르겠습니다.
하지만 곰곰히 생각해볼수록 전상돈님처럼 깊은 사고를 가진 사람이 AI를 훨씬 더 잘 사용할 수 있을 것 같아요.

AI를 이용해서 교차 검증은 을 많이 하는데 사실 확인, 논리 일관성, 반례 처리, 부족한 점 채우기엔 효과적이에요. AI는 주어진 프레임 안에서 사실을 확인하고 빈 곳을 찾는건 참 좋은것 같습니다.
근데 "다른 각도에서 바라보도록 설정"하는 부분이 실제로 잘 안 되더라고요. 어떤 각도인지를 사람이 이미 알아야 설정할 수 있거든요. 의심의 방향 자체는 결국 아직은 사람 쪽에서 먼저 나와야 하는 것 같습니다.
읽고 생각한 내용 나눠주셔서 참 감사합니다. 좋은 주말 되세요!

좋은 글 감사드립니다. 사고력을 증진시켜나가다보면 어떤 식으로든 살아남아 우위를 달성할 수 있을 것이라고 믿을만 하지 않을까라는 생각이 들었습니다. :)

읽고 댓글 달아주셔서 감사합니다. 사고력 증진을 위해 함께 노력해요

잘 읽었습니다.

감사합니다.

공감합니다. AGI 시대가 다음버전의 llm 이 될 것 같네요.

읽어주셔서 감사합니다.