[시리즈 연재] 주식 황금시대는 계속될까? (3편)

위 아티클에서 가장 중요한 차트는 UBS에서 조사한 기업의 AI 실제 도입율 (파란선) 과 도입율 전망치 (빨간선) 의 간극입니다. 한 마디로 시장과 하이퍼 스케일러들은 지수적인 성장을 기대하고 있지만, 현실은 선형적 성장입니다. 미친듯한 자본투자 규모에 걸맞는 ROI 확보시점은 요원해 보이죠.

가트너의 4월 기업 AI 실태 조사 결과도 유사합니다. 25년 11~12월 782명의 인프라 및 운영 (I&O) 리더들을 대상으로 실시한 설문조사 결과, AI 활용사례 중 고작 28%만이 ROI 기대치를 충족하고, 20%는 완전히 실패하는 것으로 나타났다고 합니다. 보고서는 성공의 핵심 요소를 모델의 정교함이 아니라 레거시 시스템 및 비즈니스 프로세스와의 유기적인 통합, 그리고 실패를 감내하겠다는 경영진의 의지와 지원으로 꼽습니다.

[ 사족 ]

AI에 대한 막연한 기대로 과도한 목표와 불분명한 범위를 설정해 "너무 빨리, 너무 많은 것" 을 이루려고 할 때 어김없이 실패했다는 이야기가 보고서에 나옵니다. 아하!... 역시 여기서도 나오는구나 이 말이. 반갑기도 해서 꼰대소리 들을 각오하고 가감없이 사족 좀 붙여보겠습니다.

몇 번 언급했지만, 20년 넘게 엔터프라이즈 IT 바닥에 있으면서 수많은 신기술의 등장, 전성기, 쇠락을 겪어봤는데, 클래식이라고 할 수 있는 하나의 명제를 꼽으라면 저는 주저없이 이걸 꼽습니다.

한 번의 큰 성공을 노리지 말고, 여러 번의 작은 성공을 누적시켜야 한다.

어김없이 AI와 관련해서도 똑같은 말이 현장에서 나오고 있죠? 괜히 클래식이 아닙니다. 그리고 경영진의 확고한 의지와 강력한 지원도 매번 현장에서 나오는 똑같은 이야기에요. 경영진의 확고한 의지라고 하니 위에서 찍어눌러야 한다고 오해하는 사람들도 있는데, 그거 아닙니다. 오히려 정반대에요.

무슨 의미냐... 세상은 LLM을 당장 내일이라도 세상을 뒤집어 놓을 완전히 새로운 무언가라고 기대하고 있지만, '도입-정착-확산' 이라는 모든 기술이 거쳐야만 하는 숙명의 사이클 측면에서는 LLM (혹은 AI) 도 과거의 그 어떤 신기술과 본질적으로 전혀 다르지 않다는 것을 보여주고 있는 겁니다. 그리고, 이 지점이 제가 LLM에 의한 제반 경제의 즉각적 생산성 향상이 얼척없는 주장이라고 생각하는 근간이에요.

'작은 성공들의 누적' 을 위해 절대 하지 말아야 하는 정책이 바로 강제 사용입니다. 정말 현장에 도움이 되는 기술들은 강제하지 않아도 자연스럽게 정착되고 확산됩니다. 그렇게 organic하게 자리잡아야 앞서 언급한 비즈니스 프로세스와의 융합, 레거시 시스템과의 유기적 연계가 따라옵니다. 최악의 케이스는 위에서 찍어 눌러서 억지로 하는 경우죠.

그런데, 빅 테크들이 자사 개발자들에게 80% 이상 LLM을 활용해 개발하라는 강제의무를 부과하고 공격적으로 모니터링하면서 인사평가에 반영하고 있죠? GPU 장사꾼이면서 현자 놀이에 재미붙인 젠슨 황 아저씨는 토큰을 쓰지 않는 임직원을 대놓고 힐난하죠? 정확히 이것이 신기술의 안정적인 정착과 확산을 위해서 절대 하지 말아야 할 행동들입니다.

시간이 걸리더라도 top의 지시와 강압이 아닌 가이던스와 독려를 받는 bottom-up이어야 성공해요. 이런 것이 바로 조직역량이자 인적역량입니다. 모델의 퍼포먼스 매트릭, 기능적인 우위... 이런 건 부차적인 요소에 불과해요. 핵심은 top의 관리와 지지 하에 bottom-up approach로 유용한 신기술이 조직 내에 뿌리내릴 수 있는 축적된 경험과 문화, 그리고 구성원의 역량입니다. 이게 AI를 포함한 모든...