[시리즈 연재] CEO들의 AI에 대한 생각을 살펴 보자

10 ~ 15년전에도 동일한 의문을 가지고 하체부분은 다리가 아닌 무한궤도나 바퀴같은걸로 대체하는 흐름이 있었죠. 그렇게 나온게 바퀴달린 배달로봇이랑 보스턴 다이나믹스의 스팟 이구요.

다시 인간형이 대두되었는데 아마 이건 인지능력이 LLM을 통해 크게 개선되었다고 생각하기 때문에 최대한 인간과 닮은 무언가를 다시 시도하는게 아닌가 싶네요

오! 좋은 의견 감사합니다, 길동님. 제 개인적인 생각입니다만.. LLM의 발전이 인간형의 필연성을 설명하지는 못하는 것 같습니다. LLM이 좋아졌다고 해도 기계역학적으로 비효율적인 이족보행과 두 팔이 금속 구조물보다 반복 하중을 오래 견디지는 못하는 관절과 인대 구조의 연약성에 문제가 있고, 이를 휴머노이드로 형성한다고 하더라도 출력 대비 크기는 모터에 훨씬 미치지 못하지 않나 생각됩니다. 여기에 더해 느린 반응과 전달이 있는데.. 저는 솔직히 LLM이나 월드 모델 구조를 가진 기계로 생산성 향상시킬 바에야 Raw signal data로 신경 신호를 전기 회로로 대체하는 것이 훨씬 더 효율적이지 않나 생각합니다.

저는 Fine님 의견에 상당히 동의합니다. 솔직히 말씀드리면... 인간형 로봇은 말씀하신 것처럼 수많은 액츄에이터의 문제를 고려한다면 합리적인 선택지가 아니라고 봐요. 목적에 맞는 폼 팩터의 로봇이 효용이 훨씬 크다고 생각해요.

왜 휴머노이드가 난리냐... 제 사견입니다만, 저는 마케팅이라고 봐요. 이 점에 있어서는 LLM과 유사하다고 봅니다. LLM이 왜 떴을까... 진짜 AI의 완성이라서? 아니오. LLM은 패턴 인식을 통해 "언어" 에 특화되었고, "언어" 는 인간이 고유의 영역이라 인지하고 있었기에 직관적으로 가장 충격을 크게 받는 분야라고 봐요. 그래서 AI를 판별한다고 알려졌던 튜링 테스트도 언어를 기초로 하고 있죠?

언어의 장벽을 기계가 넘었다 = 인간의 인지를 추월했다... 로 사람들이 인식하고 있다고 봅니다. 하지만, 언어는 인간 인지의 한 단면이지 인지 그 자체가 아닙니다. 언어=인지라면 간접경험과 직접경험의 차이는 없어야 하죠.

휴머노이드도 마찬가지. 사람 모양 로봇이 뭔가를 할 때 주는 직관적인 충격이 있죠. LLM은 소프트웨어적으로 인간을 대체하고, 휴머노이드는 하드웨어적으로 인간을 대체한다... 이 미래는 언젠가 올 수 있겠지만, 당장은 아닙니다. 하지만, 마케팅에 의해 마치 그 세상이 임박한 것처럼 보인다... 라고 저는 봐요.

거의 모든 기술의 발전이 그러했듯 미래는 현재 사람들이 상상하거나 예상하는 것과는 상당히 다른 양태를 취할 거라고 봅니다. 미래를 아는 것처럼 이야기하는 사람들은 전 다 무시해요.

감사합니다.

글쎄요... 생산성의 병목이 인간일 것인지는 두고 봐야죠. 왜냐... 생산성이라는 녀석 자체가 굉장히 난해하니까. 무조건 단위 시간 내에 아웃풋을 많이 뽑아내는 것이 생산성은 아니거든요. TFP에는 정말 다양한 요소들이 반영되고, 그렇게 해도 생산성은 명확히 수치로 정의하기는 어렵다고 봐요.

생각해보니 아무 생각 없이 생산성이라는 단어를 쓰지만 엄밀하게 생각해보면 그 시작부터 정의하기 까다로울지도 모르겠네요... 코멘트 감사드립니다!!

국내는 잘 모르겠는데, 미국 쪽 SW 엔지니어 지인들 이야기를 좀 들어보면 요즘 빅 테크들이 LLM에 과도한 신뢰를 보낸다는 우려가 크더군요. 누가 LLM을 써서 더 많은 펑션을 단위 시간에 많이 만드느냐... 이런 기준으로 채용한다는 이야기도 자주 들립니다. 몽사님 말씀하신 생산성이 아마 이 맥락일 것 같아요.

문제는 코드는 국수공장처럼 단위 시간에 많이 뽑아내면 장땡... 이 아니라는 거죠. 속도도 좋지만 무엇보다 품질이 가장 중요합니다. 그리고 자신의 코드를 설명할 수 있어야 해요. 복수의 피어리뷰에 CI/CD 파이프라인에... 이게 이유가 다 있는데... 어쩌려고 저러는지 모르겠어요.

저렇게 LLM을 과도하게 밀다 보니 아마존이 2달 전인가 production 인스턴스를 LLM이 날려먹어서 큰 손실봤고, 최근에는 어느 스타트업에서 Cursor 열심히 쓰다가 DB 다 날려먹었다는 뉴스도 있었죠?

그러고도 이걸 다 휴먼 에러로 치부... 이게 광기 아닐까요?

아.. 저건 그냥 CEO들의 기대치에요. CEO들이 뭔가 대단한 비전과 지식을 갖추고 있을 거라고 생각하시는 건 아니죠? 생각보다 똘똘한 사람들 별로 없습니다. 이 분들이 진짜 탁월한 건 생존감각? 망하지 않도록 현금흐름을 유지하고 리스크 관리하는 데에 탁월한 사람들 (이게 사실 CEO의 자질 첫번째라고 봐요)... 이지 대부분 visionary는 아닙니다.

그 말은 CEO들 역시 아직은 AI 공포 마케팅에 포섭된 상태다... 정도로 이해하는 편이 맞다고 봐요. 저는 AI에 의한 인력대체는 아직 요원하다고 보는 입장입니다. CEO들도 LLM에게 긴 시간을 주고 있지는 않죠? 하도 떠들어대니 '그래 어디 함 보자'.... 정도지, 이거 안하면 죽는다고 덤비는 CEO들은 특정 산업군에 속한 소수라는 거에요.

제 글을 오랫동안 아껴주셨던 아라리님이시니 제가 좀 편하게 제 생각을 이야기해 볼께요.

AI로 원가절감... 이면 너무 수비적이지 않나요? ㅎㅎㅎ 닷컴버블 때는 인터넷을 통해 새로운 비즈니스, 기존 서비스의 온라인화 등 공격적인 접근들이 나왔는데, 대부분의 CEO들은 LLM을 그저 원가절감 수단으로 인식하고 있다는 거잖아요. 이것만으로도 LLM이 인터넷만큼의 파급효과를 과연 가져올까 의심이 듭니다.

그리고 인력대체는 본문에도 적었지만 굉장히 어렵습니다 이거. 생각만큼 쉽지 않아요. 가장 먼저 떠오르는 이유는 암묵적 경험치. 언어로 표현하기 어려운 지식들. LLM은 "언어" 를 기반으로 동작하죠? 모든 암묵적 경험치와 지식이 언어로 완벽하게 전달될 수 있다면 오케이. 그런데, 그게 안 됩니다. 그게 됐으면 1970~80년대 전문가 시스템이 이미 AI를 완성시켰어야 해요. 하지만 대차게 실패했죠.

메타나 아마존 등에서 직원들의 일거수 일투족 (마우스 움직임, 키스트로크 등) 을 모두 모니터링하고 기록하고 있는 것 들어보셨나 모르겠네요. 왜 그럴까? 암묵적 지식이 LLM의 공백이라는 것을 자기들도 아니까, 사람들의 행동패턴을 다 기록해서 이걸로 암묵적 경험치와 지식조차 모델화하겠다는 생각인거죠.

솔직히? 이건 진짜 미친 짓입니다. LLM에 비해 훨씬 많은 데이터 포인트가 필요할 것이고, 더 많은 연산비용이 소요되며 비용 대비 효과의 문턱이 훨씬 높아질 거에요. 그냥 사람 쓰는게 나을 겁니다. 게다가 코어 비즈니스 수행을 설명이 불가능한 블랙박스로 대체하면 만에 하나라도 사고가 터지면 어떻게 대응하려고?

사견입니다만... 지금 하이퍼 스케일러 C-level들 중 다수는 (이 사람들도 visionary 아닙니다) 아주 심대한 오류에 빠져있다고 봐요. 저커버그가 메타버스로 삽질한 것처럼 말이죠. 단, 그 규모는 메타버스보다 상상을 초월할 정도로 큰 상태인 거죠.

앤쓰로픽도 만만치 않습니다 ㅎㅎ 알트만이 워낙에 독보적으로 문제적 인물이라 그렇지 아모데이에 대한 평가도 만만치 않거든요. 애당초 코드가 다 유출됐다는 것만으로 기업 내 거버넌스가 동작하지 않는다, 경영이 엉망이다... 뭐 이렇게도 생각해 볼 수 있어요. 내부 관리가 엉망인데 기업고객들이 다 눈감아 줄까요 과연?

미토스로 공포 마케팅 장난질치는 것도 매우 맘에 안 듭니다. 그렇게 위험한 물건이면 조용히 대응했어야지, 왜 언론에 질질 흘리면서 생쇼? 정말 그렇게 위험한 물건이고 공익을 위해서였다면 얼마든지 비밀스럽게 대응할 수 있었을 겁니다. 그저 공포 마케팅의 수단으로 본 거죠.

미토스의 위협이 진짜인지 가짜인지에 대한 판단은 차치하더라도, 앤쓰로픽이라는 기업이 자신들의 제품을 공익을 위하는 척 공포 마케팅용으로 써먹고 있댜는 것만으로도 OpenAI나 앤쓰로픽이나 그 나물에 그 밥 수준이라고 생각합니다.

분명 엔지니어링과 비즈니스 모두를 잡는게 필요합니다. 조직구조도 문제입니다.... 만, 그렇다고 엔지니어링 역량이라던가 쌓아올린 무언가가 의미가 없다고 보기도 참 애매하죠. 저는 오픈AI나 앤트로픽이나 테슬라나 xAI나, VC 출신 인물들이 주장하는 장밋빛 미래에 공감하지도, 기업가치 부풀리기를 부정하지도 않지만, 그렇다고 전부 동일한 주체로 바라보는 건 너무 가혹하다고 생각합니다. 그들의 생산물이 세상을 직접 바꾸지는 못하더라도 그들의 움직임이 불러올 간접적인 변화는 티모씨님께서 강조하시는 광기에 놓인 인간군상들만이 이루어낼 수 있는 무언가일테니까요. 이를 알고 계시기에 항상 시간차, 시장의 기대와 현실의 괴리를 강조하시는 거라고 생각합니다. :)

어쩌다보니 인간의 한쪽 면에 고결한 질서와 이성이 있다면 반대면에는 불결한 혼돈과 광기가 있다는 점을 긍정한다면 어떨까라는 생각이 문득 들었습니다. 티모씨님의 글을 통해 균형을 맞추어가고 있어 항상 감사드립니다. ^^b

가끔은 미숙한 너드들이 세상의 운명을 걸고 온갖 실수를 하는 것이 썩 마음에 들지는 않지만 그래도 어쩌겠냐~라는 생각을 하고 있습니다. 어쩌면 달관한 것일지도 모르겠습니다. ㅎㅅㅎ

아이구 상세한 덧글 감사합니다. uryu님 이야기는 LLM이 어쨌든 AI의 중심이 될 거고, 그래서 그 기초를 닦는 이들에게 문제는 있지만 그래도 미래를 향한 길을 열고 있으니 어쩌겠냐... 는 맥락으로 이해됩니다.

저는 LLM이 미래 AI의 중심이 될 거라고 생각하지 않아요. 고로 작금의 어마어마한 자본투자는 결국 비수가 되어 돌아올 것이라 생각합니다. 그때는 LLM을 밀어붙이고, 대규모 자본투자에 앞장섰던 사람들은 visionary가 아니라 사기꾼으로 전락하게 될 것이라 봐요.

따라서, 저는 알트만이나 아모데이같은 부류를 사기꾼이라고 봅니다. 우주에 데이터센터 짓겠다는 일론 머스크도 마찬가지구요. 그래서 '어쩌겠나' 가 안돼요 ㅎㅎ

https://www.valley.town/space/@timocy/articles/690b4a0285839667dba34a5e

이런 비슷한 이야기를 작년 11월에도 했었죠 ㅎㅎ

저도 현대 LLM 아키택처에 문제가 크게 있다고 봅니다. 그리고 지금 이루어지는 거대한 자본지출도 문제가 있다고 보기도 하고요. 티모씨님의 주장과 근거보다는 빈약하고 지극히 경험적이기는 하지만요. :)

그렇지만 무언가 하자가 있고 문제가 있다는 것은 그것이 비효율적이라는 말이지, 그것을 써먹을 여지가 없다는 말로 이어지면 안된다고 생각합니다. 비효율적인 아키택처더라도 그 영향력은 분명 크다는걸 사람들이 느끼고 있으니까요. 마치 초기의 CPU가 현대에 이르러서는 매우 비효율적이고 무겁고 써먹기 짜증나고 힘들었지만, 분명 세상을 바꾸는 첫 단추로는 적당했던 것과 같다고 생각합니다. LLM은 결코 공학계 및 학술계 패러다임의 마지막 스텝이 아닙니다.

모든 공학적인 결과물들이 그렇듯 지속적인 개선이 필요합니다. 그런 의미에서 티모씨님께서 이야기해주시는 부분이 분명 의미가 있고 맞는 말이라고 생각합니다. 분명하지 않은 희망에 인생도 모자라 인류의 미래와 온갖 것들을 걸고 있으니까요.

사기꾼이다, 아니다, 딱 잘라 말하기는 쉽지만, 그들처럼 책임을 지기는 어렵습니다. 결국 이들은 시스템의 판결을 앞두고 있고 그들에게 처벌을 내리는 건 시대의 흐름이자 시스템이 될 것이라고 봅니다. 비효율적인 아키택처이고 그 한계가 명확하지만, 분명 그 비효율성을 해소하기 위해 눈에 보이지 않고 조명되지 않는 이들이 노력하고 있다~ 정도로 알아주시면 좋겠습니다. 세상의 어두운 면을 보고 어둡다고 말하다보면 세상이 진짜 어두운줄만 아는 사람들이 등장할지도 모르니까요.

그런 의미에서 티모씨님의 최신 관심사나 읽고 계신 책이나 취미가 문득 궁금해졌습니다. 항상 가지고 계신 생각을 깊이 전해주시고 담아주셔서 감사드립니다. ^^b

고백하자면... 저는 사실 다독가는 아니라서 ㅎㅎㅎ 책은 상당히 선별적으로 읽고, 주로 긴 아티클이나 관심가는 주제의 보고서를 주로 많이 읽습니다. 생각을 정리하다가 확인이 필요하다... 싶은 부분에서 리서치를 한달까.

요즘 저의 주요 관심사는 이전 아티클에서도 언급했듯이 '축적된 양적인 변화가 질적인 변화로 이어지는 지점' 입니다. 이 맥락에 AI는 안타깝지만 제외에요. LLM으로 이 난리만 치지 않았어도 1순위였을텐데... 이란전쟁이 질적인 변화의 트리거가 되었다고 생각하고, 이미 현상들이 나타나고 있죠? NATO, OPEC 붕괴, 페트로 달러 약화...

결국 저금리 저물가 시대는 끝났다고 생각합니다. 모든 자원이 귀해지는 국면이 펼쳐질 것이라 보기에 LLM처럼 막대한 자원을 소모하는 기술은 환영받지 못할 거라고 생각해요.

저라고 알겠습니까 ㅎㅎ 요즘 드는 생각은 광기의 뿌리가 하이퍼 스케일러 C-level에 있다는 생각이 들어요. 그리고 이들에게 대단한 비젼과 식견을 기대해서는 안된다는 것이 직간접 경험을 통해 구축한 저의 관점이에요.

저는 이들이 어마어마한 오류를 범하고 있다고 생각하는데, 문제는 이들이 자신들의 오류를 스스로 인정하고 수정할 것 같지 않다는 거죠. 그 말은 갈 데까지 가보자... 는 식으로 밀어붙인다면 금방 끝나지 않을 수도 있다고 생각합니다.

솔직히 제 생각을 적자면... 저는 또 한 번 겨울이 세게 올 거라고 봐요. LLM에 미쳐 돌아갔던 시간이 길어지고, 돈의 규모가 커질수록 겨울의 강도와 기간도 길어질 거라고 봅니다.

그렇죠. 다른 의미에서의 FOMO지만 말이죠. 그러니까 AI 및 LLM에 대한 효용 자각보다 남들이 하니까 나도 해야될 것 같은 불안이 더 강한 동인이라는 겁니다.