“AI가 생산성 혁신을 가져올 수 있을까?” 관련 논문

대략 2년 전에 밸리에 올렸던 챗gpt와 트랜스포머 글이 있다. 양(quantity)으로 때려박아 만들어진 LLM모델에 대해 설명하는 글이다. LLM모델 학습이 본격화되며 대규모 병렬 처리에 필요한 GPU의 수요가 급증했고 그에 따라 Nvidia의 주가도 하늘로 치솟았다. 그 후엔 데이터센터 -> 전력 수요가 급증할 것이 예견되며 전력 기업의 주가도 상승했다. 대규모 데이터와 전력, 이 두 문제를 해결할 수 있는 방법 중 하나가 소형언어모델(SLM, SmallLM)이다. 더 좋은 LargeLM을 만들려는 경쟁 속에서 모델 덩치를 키우던 빅테크들, 그러나 그 덩치경쟁에서 학습하는 데이터세트에는 드넓은 인터넷 속의 쓸모없는 데이터도 포함하는 경우가 많았다. (극단적이지만 어쨌든 이런 이상한 인터넷 상의 글들을 의미한다..-_-) 바다에 똥물을 버려도 영향은 미미하듯 ...

얼마 전까지 한동안 맹아(the blind)원에 봉사를 나갔었다. 바빠지면서 가지 않게 되었는데, 그 곳에 자주 만난 맹인 친구가 있다. 나보다 어린 이십대 남자 앤데, 카페에서 이런저런 이야기를 나누곤 했다. 시덥지 않은 내 일상을 이야기할 때도 "그거는 어땠어요? 모습이 어때요? 소리는 어땠어요?" ... 묘사를 마구 요구하는데, 그게 내게 한편으론 큰 위안이 되었던 거 같다. '내 비루한 일상을 이렇게나 궁금해한다구...? 이랬던 사람은 니가 처음이야... ...' 아, 근데 내가 대단히 선해서 봉사활동을 시작한 건 아니다. 쉬는 날 어쩌다 발길이 닿아 들어가게 된 게 시작이다. 활동을 하면서 선한 마음이 발현된 적은 거의 없다. 주로 어떤 마음을 가지고 했냐면, 내가 설령 여기서 더 jot되어도, 그래도 국가가 도와줄 여력은 있겠구나ㅡ한국의 사회안전망을 확인하는 마음 한스푼, 동시에 이 정도 선진국으로 만들어준 윗세대에 대한 고마움 한스푼, 나도 사회에 쓸모있는 사람이구나ㅡ조그만 자기효능감 한스푼, 그리고 부끄럽지만... 내가 이들보다는 낫구나ㅡ 일그러진 우월감 반스푼까지. 지나고 나서 되돌아보니...

24년12월07일 Fellow게시판에 업로드했던 글입니다. 중학생 때 일이다. 어느 수업 시간이었는지 기억은 나지 않는다. 자리에서 일어나 각자 장래희망을 말하는 시간이 있었다. "화가요" "의사요" "그냥 회사원이요" "변호사요" "축구선수요" "군인이요" 등등.. 내 차례가 되었다. "로젠택배 기사요" 급우들이 하하하 웃었다. 선생님도 귀엽다는 눈빛과 함께 물었다. "왜?" "집에 선물을 가져다주거든요. 기사님이 다녀가면 기분이 좋아요" 와하하 ! 여전히 다들 웃었다. 이것은 일종의 사회화다. 사회가 주는 거대한 가스라이팅. '그런 직업이 꿈이라고?' '그런 직업은 꿈이라고 부를 수 없어!' 아이의 꿈은 꺾이게 된다. 직업에 대한 사회적 인식도 학습된다. 직업에 귀천은 없다 하지만 그것은 허울 좋은 휘장일 뿐, 모든 직업이 은연중에 평가를 받는다. 우리는 자라나면서 그것을 학습한다. "아이들에게 다시 꽃과 책을 보여주시오" ... 아기들은 이미 목표물에 가 있었다. 고사리 같은 손을 뻗어 머뭇거리며 한층 아름답게 변형시킨 장미를 만지고 붙잡고 꽃잎을 따고, 반짝반짝 윤이 나는 책장을 마구 구겼다. 소장은 아기들이 전부 정신없이 행복해할 때까지 기다렸다. 그러다 "잘 보게."라고 말하고는 손을 들어 신호를 보냈다.    방 맞은편 배전판 옆에 서 있던 수석 보모가 작은 레버를 내렸다.    갑자기 폭발음이 일어났다. 날카롭게, 점점 더 날카롭게 사이렌이 울렸다. 비상벨도 미친듯이 울렸다.    아기들이 소스라치게 놀라 비명을 지르고, 얼굴은 공포로 일그러졌다.    "그럼 이제." 하고 소장이 소리쳤다(귀가 먹먹할 정도로 시끄러웠던 탓이다). "이제 약한 전기 충격으로 이 교훈을 새기도록 할 거야."  ... 소장이 스위치를 다시 눌렀다. 목소리가 조용해졌다. 유령 같은 희미한 목소리가 80개의 베개 밑에서 계속 웅얼거렸다. "아이들은 잠에서 깨어날 때까지 40번에서 50번 반복해서 들어. 그리고 목요일에 다시 듣고, 토요일에도 다시 듣지. 일주일에 세 번 1백 20번씩 30개월 동안 들어." _올더스 헉슬리 <멋진 신세계> <멋진 신세계>는 보카노프스키 과정을 통해 태아단계부터 사람을 설계해 만들어내는 디스토피아를 그렸다. 우리도 어느정도 그렇지 않을까? 사람들은 일련의 사회작용을 통해 좋은 것이 무엇인지, 그렇지 않은 것이 무엇인지 자라나며 선호를 학습하게 된다. 왜, 미디어만 봐도 그렇지 않은가? 의사,변호사를 주제로 한 드라마는 많은데 쿠팡맨을 주제로 하는 드라마는 없다. <멋진 신세계> 속 열조건습성 반사의 측면에서 보자면... 다들 차가운 지역에서 사는 것을 선호하도록 30년의 사회화를 거치는 것이다. 문제는... 30년이 지나고 보니, 대부분의 청년들은 ...

<판단력 비판> 칸트는 저서 <판단력 비판> 에서 천재의 특징으로 두가지를 들었다. 바로 '원본성'과 '범례성'이다. (1) 원본성 '천재' 우리가 일상에서 누군가를 천재라고 칭하는 경우는 일반적으로 시험 잘 보는 사람을 부를 때이다. 수능고득점으로 명문대에 가는 사람, 어려운 시험에 손쉽게 합격하는 사람 등을 들 수 있다. 예를 들어 원희룡 같은 경우 학생 때부터 제주도가 낳은 천재로 이름을 날렸다. ( 고교 3년의 모의고사 12번 + 대입학력고사 모두 전국1등을 했고 서울대에 수석입학했으니 타당해 보인다.) 대학교에 가서도 비슷하다. 이제는 비슷한 레벨의 사람들이 모여있으니 인풋 대비 아웃풋으로 비교를 하는거다. "쟤는 맨날 노는데 시험은 잘 보더라-" "천재인가봐-" 그러나 칸트는 이것은 천재가 아니라고 보았다. 그런 사람은 단지 '이해가 빠르고 학습능력이 뛰어난 사람'일 뿐 천재라 부를 수 없다는 것이다. 어떠한 규칙을 따라 배울 수 있는 것은 이해와 숙련의 소질이 필요할 뿐이고, 칸트는 그 사람만의 독창적인 것을 만들 수 있는 능력, '원본성'이 있어야 천재라고 봤다. ( 참고로 판단력 비판의 배경을 설명하자면, 그 당시에는 모방미학이 주류를 이루었는데 칸트는 무릇 천재라면 이 모방정신에 대립해야 한다고 주장했다. ) 예컨대 지금의 공대 학부생들은 모두 뉴턴의 법칙을 안다. 뉴턴이 프린키피아에서 자연의 원리에 대해 논술한 것 ㅡ 그것을 찾아내는 데에 제 아무리 뛰어난 두뇌가 필요했다 할지라도 ㅡ 모두 능히 배울 수 있다. 옛날의 과학자보다 현대의 학부생들이 갖춘 지식이 월등히 많을지는 모르나, 그들의 절대다수는 뉴턴처럼 원리를 발견할 수가 없을 것이다. 선학자들이 생각지 못한 '원본성'을 가진 개념을 발견하는 것 말이다. 2) 범례성 그렇다면 학습능력이 뛰어날 뿐인 명문대생보다, 그게 어떤 것이든간에 고유한 것을 만들어낼 줄 아는 ...

현재 한국에 진행 중인 사업 중에.. 원격검침시스템=지능형검침인프라=AMI (Advanced Metering Infrastructure) 사업이라는 것이 있습니다. 스마트그리드 관련 사업 중 하나인데, 전기검침을 원격으로 하는거죠.. 전력망을 담당하는 한전에서 진행하고 있습니다. (이제는 상당부분 진행이 된 것으로 압니다. 한참 전부터 신축 건물에는 이 metering 기기를 의무적으로 설치해야 하고요) 이 사업 초창기에 이것을 연구하던 분의 오프더레코드 이야기를 들은 적이 있습니다. 당시 원격검침기술이 완성되어서 이제 됐다 ! 사업을 시작하려고 하는데.. 한전에서도 결재, 관할부처인 산자부에서도 결재가 나고 쭉쭉 올라가서 사업이 시작되나 싶었는데... 뜬금없이 국무총리실에서 중지하라는 말이 나왔다는 겁니다. 이유가 무엇인고 하니 이 사업이 시작되면 전국에 있는 수많은 검침원들이 일자리를 잃는다는 거였죠. (당시 대통령실에서 일자리 관련해 신경을 엄청 곤두세우고 있었다고 합니다.) 검침이라는게 검침원이 뽈뽈뽈뽈 동네를 돌아다니면서 어느 가구의 이번달 계량기 300kwh 를 PDA에 입력하고, 다음달에 320kwh 을 입력한다면 그 차이인 20kw에 대해 해당 월 전기료가 부과되던 개념이었으니까요. 실제로 AMI 도입 이후 도시지역의 많은 검침원들이 사라졌습니다. (그런 이유로 저 사업이 매우 천천히 진행되었다고 하더군요.) ...