진실이 붕괴하는 시대, 당신의 ‘10%’는 무엇인가?





투자를 하면서 내가 배운 교훈 중에 하나가 ‘숫자 뒤에 숨은 의도’를 읽어내는 일이었다. 브릿지론,본PF,감평가격,책준기간 등등..금리 조금 줄여보겠다고 여기저기 뛰어 다니고 , 대주단을 설득하기 위해 단어 하나를 골라내던 시간들은 나에게 단순한 업무 이상의 무게였다. 생존의 문제였고, 책임의 영역이었다.
그런 요사이 인공지능(AI)의 등장은 경이로움인 동시에 조심스러운 관찰의 대상이었다. 누군가는 AI가 모든 것을 대체할 것이라 말하고, 누군가는 그 무용론을 설파한다. 하지만 나는 현장에서 직접 부딪히며 조금은 다른 결론에 도달했다. AI는 나를 대체하는 존재가 아니라, 내가 가진 확률적 우위를 극대화해주는 아주 유능하지만 조금은 위태로운 조력자라는 사실이다. 이번엔 다양한 글들을 보면서 그 조력자를 어떻게 다스려 나만의 길을 만들고 있는지, 그 기록을 남겨보려 한다.
경제학의 관점에서 볼 때, 현재 우리가 마주한 가장 큰 변화는 ‘생산 단가의 파괴’다. 과거에는 양질의 보고서 하나를 쓰기 위해 수일간의 자료 수집과 고도의 지적 노동이 필요했다. 하지만 이제는 명령어 한 줄에 그럴듯한 결과물이 쏟아진다. 생산 비용이 제로에 수렴하면서 세상은 정보의 홍수를 넘어 ‘정보의 범람’ 상태에 빠졌다.

https://youtu.be/mbtQAqqoHt0?si=NzcIPRXpbxWX_vDP
문제는 여기서 발생한다. 만드는 것이 쉬워질수록, 그것이 진짜인지 가짜인지 판별하는 ‘검증 비용’은 기하급수적으로 치솟는다. 가짜가 진짜보다 더 진짜 같은 시대, 사람들은 점점 검증을 포기하고 시스템이 내놓은 결과에 안주하기 시작한다. 나는 이 지점이 가장 위험하면서도, 동시에 가장 큰 기회가 숨어 있는 곳으로 본다. 모두가 검증을 포기할 때, 아주 작은 비판적 시각을 유지하는 것만으로도 시장에서 독보적인 위치를 점할 수 있기 때문이다.
학계와 기술계에서 우려하는 ‘모델 붕괴(Model Collapse)’ 현상은 큰 시사점을 준다. AI가 생성한 데이터를 다시 AI가 학습하면서 지식의 다양성이 사라지고 보편적인 ...






AI를 활용할수록 인간이 아주 작은 개입이나 미세한 방향 전환만 해도 결과가 완전히 달라질때마다 느껴지는 묘한 위기감은 쉽게 형용하기 어렵네요. 인간이 개입하지 않고 AI 스스로 모든 것을 결정하기까지 저는 얼마 남지 않았다고 생각하는데, 만약 AGI를 넘어선 ASI가 왔을 때에는 이 문제가 어떻게 해결될 지 궁금합니다.

좋은 생각거리를 던져주셨네요.^^ 제가 또 하나 걱정이 되는것은 인간이 기계처럼 변해가는 건데…. 비용 절감 도구가 되는 건 환영…. 누군가의 통제 도구가 되는 건 저도 무섭습니다.

기회가 정규분포의 양 끝단에 있는 것에 공감해요 ㅎㅎ
아마도 엣지는 정규분포를 미묘하게 틀어서 설득력을 가질 때 생성되는 것 같아요. 혹은 전혀 다른 분야의 아이디어를 잘 믹스할 때도 있겠네요.
효율이 비효율이 되는 사이클이 돌면서 팻 테일의 정규 분포가 되어 갈 것으로 보이고 그 팻 테일의 가치를 아는 10%가 되도록 노력해야겠습니다!
오늘도 좋은 글 감사하고 새해 복 많이 받으세요!

정규분포를 미묘하게 틀어서 설득력이 가진다….좋은 인사이트 감사합니다. 그 미묘함이 참 어렵던데 말이죠… 새해 복 많이 받으세요.^^

삭제된 댓글입니다.

본문부터 댓글까지 좋은 글 감사합니다

공감해 주셔서 감사합니다.

AI의 결과에 나의 생각을 10% 섞는게 스티브 잡스가 말했던 이성과 감성의 조화라고 부를 수 있을까요? ㅎㅎ
좋은 글 감사합니다!

네.ㅎㅎ 사실 인간의 10% 개입이 결과물 향상에 64% 이상 영향을 준다는 사례가 있더군요. 그런데 곰곰이 생각해 보니 내 생각 10%은 어떻게 넣을 수 있는지 이 부분도 고민이 되네요. 공감해 주셔서 감사합니다

저도 AI가 사용자의 인지를 극도로 강화시키는 도구란 생각이 들더군요. 명료한 통찰이든 왜곡된 인지이든, 일단 프롬프트가 주어지면 극도로 날카롭게 벼려서 내놓습니다.

10프로의 내 생각.. 메모