[시리즈 연재] LLM의 생산성 혁명... 현실과 기대의 괴리

이전 아티클에서는 하이퍼 스케일러 실적을 살펴 보았죠. 버는 돈의 상당 부분을 LLM 인프라 투자에 과감히 던지고 있고, 그 버는 돈의 상당 부분은 LLM 개발사들의 컴퓨팅 자원 확보지출에 의존하고 있습니다. LLM 개발사들이 컴퓨팅 자원을 공격적으로 확보하는 이유는 결국 LLM 중심의 AI가 경제 전반의 생산성을 끌어올릴 필수 동력으로 광범위하게 도입될 것이라는 믿음에 기반하고 있죠.

작금의 메모리 포함 반도체의 나홀로 랠리는 기본적으로 하이퍼 스케일러들의 자본지출에 대한 믿음에서 기인하고, 하이퍼 스케일러들의 자본지출은 LLM 개발사들의 압도적 미래 성공에 의존하며, LLM 개발사들의 압도적 미래 성공은 LLM에 의한 생산성 혁명에서 나옵니다.

그러면, LLM에 의한 생산성 혁명에 대해 생각해 볼 필요가 있겠군요.

미국의 생산성 향상은 실재한다

최근 Economist 지에 올라온 내용입니다. 미국 경제의 생산성이 팬데믹 이후 5년간 타지역에 비해 빠르게 상승했다고 합니다. 이는 2010년대 내내 생산성이 지체되어 있던 상황에서 상당한 진전이 있었던 거죠. 그러면 그 기저에 LLM이 있는 것이냐... 그렇게 볼 수 있는 직접적인 증거는 없습니다.

기사에서 짚고 있는 미국의 생산성 향상의 원인은 크게 3가지...

• 2010년대에 등장한 기술들의 뒤늦은 본격 활용

  • 스마트폰, 클라우드 컴퓨팅, 원격근무 등이 팬데믹 이후 적극 활용되며 전문 서비스 및 경영 부분에서 괄목할만한 생산성 향상 주도

• 셰일 에너지 혁명으로 인한 저렴한 전기료

  • 미국 전기료는 유럽의 절반, 일본의 1/3 수준. 에너지 비용이 낮아지면서 적은 원가로 더 많은 산출물을 만들어 낼 수 있는 환경 조성

• 일자리가 아닌 보조금 지급으로 인한 노동력 재배치

  • 팬데믹 당시 유럽은 고용을 유지했고, 미국은 고용은 방치하고 보조금을 지급. 팬데믹 이후 미국은 노동력이 더 생산성이 높은 기업으로 재배치 되었지만, 유럽은 정체되었음.

LLM이 시장의 주목을 받기 시작한 것은 2023년 말부터였고, 그때부터의 생산성 향상은 사실 그다지 개선되지 않았습니다. 팬데믹 이후의 추세가 유지되었을뿐이죠. 그렇기에 Economist에서는 LLM이 생산성 향상의 동력이라고 볼 증거는 없다고 판단합니다.

단, 기사에서는 LLM에 의한 생산성 향상이 불가능하다는 이야기를 하지 않아요. 시간이 걸릴 거라는 겁니다. 아직은 증거가 보이지 않지만, 더 긴 시계열로 보면 보일 수도 있다... 는 거죠. 그러면 현재 징조라도 보이는 상태일까요?

25년 4분기의 우려는 지금도 여전하다

이제는 아득한 과거처럼 느껴지지만, 불과 반년 전만 해도 AI 자본투자와 LLM의 효용성에 대한 우려가 시장을 지배했었습니다.

https://www.ft.com/video/521c05bc-b5ac-4d0e-9acf-dbb106691b9f

25년 10월 말, Financial Times에서 올렸던 영상... 당시 영상에서는 상장 기업들이 LLM의 가능성을 엄청나게 언급하면서도 정작 현실에서는 단순한 유즈케이스에만 적용하고 있다고 지적했습니다. 실제로 25년 7월에 발표되었던 MIT Media Labs의 기업실태 조사에서는 95%의 LLM 파일럿 프로젝트들이 실패로 돌아갔다는 결과도 있었습니다. MIT Media Labs 보고서에 대한 내용을 저도 아티클로 다룬 적이 있었죠.

영상은 그렇기때문에 LLM이 망할 것이다... 라는 결론을 내리지 않아요. 지적하는 지점은 LLM 혹은 AI에 의한 생산성 향상이라는 과제를 달성하기 위해서는 상당한 시간이 필요할 것이라는 겁니다. 왜냐... LLM 혹은 AI는 레거시 기술 요소와 결이 다르기에 교육, 문화, 일하는 방식의 변화가 수반되어야 하기 때문이라는 거죠.

문제는? 임직원들의 저항이 크다는 점입니다. 이는 25년 4분기만이 아니라 현재 진행형이에요. Fortune의 26년 4월 아티클을 참조하면...

• 기업 직원의 80%는 AI 도구 사용을 회피하거나 거부하고 있음 (WalkMe)

• 미국 성인의 56%는 최근 AI를 사용해 본 경험이 없음 (ACSI)

• 미국인의 43%는 '인간적 상호작용의 상실'을 AI에 대한 가장 큰 우려 사항으로 꼽음 (ACSI)

• AI 고객 만족도 점수는 평균 73점으로, 이는 에너지 공기업 서비스 수준과 비슷함 (ACSI)

그러면 긍정적인 피드백은 없느냐... 있습니다. 금융, 사법, 프로그래밍 등 주로 "언어" 와 "기호체계" 를 다루는 업종에서는 상당히 긍정적이죠. 그리고, 개인 차원에서도 차별성은 분명히 보인다고 합니다.

문제라면 LLM으로 보다 효율적으로 업무를 수행하는 이들이 만들어낸 생산성 향상과 기술적, 문화적 마찰로 인해 잃어버리는 생산성 손실의 규모가 거의 대칭적이라는 거죠. 임직원들의 저항이 강하다 보니, 이를 독려하기 위한 변화관리 서비스를 제공하는 디지털 변화 서비스들이 나서기 시작했습니다.

앞서 언급한 것처럼 WalkMe 라는 디지털 변화 서비스 업체의 조사에 따르면 임직원들의 80% 이상이 회사에서 제공하는 AI 툴을 우회하거나 거부하고 있다고 하더군요. 물론, 이 기업은 '임직원들의 저항이 크니까 우리 서비스 쓰세요' 라고 해야 하는 입장이니, WalkMe의 조사결과는 가려들을 필요가 있습니다만, 이들의 조사결과가 다른 외부 기관들의 조사결과와도 큰 차이를 보이고 있지 않으니 크게 틀리다고 볼 수도 없어요.

일터에서만이 아니라 AI에 대한 대중적 반감도 계속해서 커지고 있죠. 데이터 센터에 의한 전기료 상승이나 주거환경 악화 등은 말할 것도 없고, AI에 의한 일자리 대체 가능성 (현실적으로는 낮다고 보지만) 에 대한 두려움까지 섞였습니다. NBC 조사에 따르면 AI에 대한 부정적 인식을 표출한 이들의 비중이 긍정적 인식에 비해 2배에 가깝게 나왔죠 (부정 46% vs 긍정 26%). 정치인 입장에서 AI는 표가 안되는 겁니다.

그러고보니 요즘 소버린 AI 이야기는 쏙 들어갔네요? 베네수엘라 참수작전도 원유가 아니라 희토류 때문이라고 썰을 풀던 사람들이 있었는데... 그 사람들 이란 전쟁에서는 마땅한 연결점을 못 찾았나... 뭐든 갖다 붙이면 될테니 그럴리가 없는데 ㅎㅎ

결국 종합하면 LLM에...