LLM의 시대에 글을 쓰는 행위에 대해




이 글을 진정 내가 썼다고 말할 수 있는가? 아니면 사실상 LLM이 쓴 것인가?
어릴 때 아주 잠깐이지만 작가를 꿈꿨던 적이 있었습니다. 비록 어른이 되면서 부업으로도 충분히 도전해볼 수 있다는 부모님의 말씀을 수긍하게 되어서 현실로 만들지는 못했지만요. 말 주변이 없는 저에게 글은 제 생각을 오해없이 전달할 수 있게 해주는 거의 유일한 수단이었고, 그래서인지 펜을 잡으면 글을 어떻게 써야 할지 막막했던 적은 별로 없었습니다.
그런데 LLM의 시대가 오면서 이 모델들이 저보다 훨씬 뛰어난 글재주를 가지고 있다는 것을 인정할 수밖에 없었고, 어떠한 방식으로도 경쟁이 안 된다는 점 또한 뼈저리게 느끼고 있습니다.
그러나 이런 시대임에도 저는 키워드 몇 개만 던져주고 LLM에게 전문(全文)의 작성을 맡기는 행위에 알 수 없는 거부감을 느낍니다. 내가 초안을 쓰고 LLM에게 보완을 요청하는 것은 '활용'이지만, LLM이 쓴 글을 내가 다듬는 것은 남의 사고를 가져오는 것 같은 기분이 듭니다.
그래서인지 저는 Valley에 많은 글을 쓰면서, LLM의 리서치 결과를 기록용으로 통째로 올린 적은 있었어도, LLM이 쓴 글을 마치 제가 쓴 글인 것 양 올린 적은 단 한번도 없었습니다. LLM이 만든 완벽에 가까운 문장들을 보면서 당연히 그렇게 '딸깍'하고 싶다는 마음이 한번도 들지 않았다는 것은 새빨간 거짓말입니다. 하지만 한때 작가를 꿈꿨던 사람으로서의 얄팍한 위선때문에, 그동안 행동으로 옮기지는 못했습니다.
이 글은 LLM의 시대에, 글을 쓴다는 행위에 대해 여러날에 걸쳐 고민해 본 결과물입니다.

혹시 공각기동대라는 애니메이션을 보셨는지 모르겠습니다. 이 애니메이션이 유명했던 것은 당시의 기술을 뛰어넘은 화려한 초월작화 뿐만이 아니라, 기술의 발전이 급격히 가속하는 세기말 1995년경에 이 작품이 던지는 철학적인 메시지 때문이었습니다.
공각기동대를 던지는 첫번째 메시지는 "인간을 규정하는 것은 육체인가, 영혼(Ghost)인가?"하는 것입니다. 작품은 기술이 고도로 발달하여 팔다리 뿐만 아니라 각종 장기는 물론 심지어 뇌까지도 이식할 수 있게 된 시대를 배경으로 합니다.

주인공인 쿠사나기 모토코 소령은 뇌를 제외하고 온몸이 기계로 대체된 존재입니다. 정확히는 기계에 주인공의 뇌를 옮겨심었다고 표현하는 것이 더 정확할 수도 있습니다. 작품에서는 이를 '전뇌화'했다고 표현합니다. 이런 기계와 인간의 경계가 사라져가는 시대에 "인간의 몸에 기계로 된 뇌를 장착한 사람 vs 기계의 몸에 인간의 뇌를 장착한 사람 중에서 누가 더 인간에 가까운가?"라는 주인공의 고민이 등장합니다.
작가는 이 주인공의 고민을 통해 인간을 인간답게 만들어 주는 것이 겉으로 보이는 육체적 외관인지, 외관과는 무관하게 그 안에 들어있는 영혼인가하는 질문을 세상에 던집니다.
공각기동대가 관객들에게 던지는 두번째 메시지는 "그렇다면 그 영혼(Ghost)이라는 것은 정말로 '나의 것'이라고 확신할 수 있는가?"하는 것입니다.

첫번째 메시지에서 인간을 규정하는 것이 육체가 아닌 영혼이라는 잠정적 결론에 도달했다면, 두번째 메시지는 그 결론의 토대 자체를 흔드는 것입니다. 작중에서 전뇌화된 인간들의 기억은 기계에 뇌를 옮겨 심는 과정에서 해킹당하거나 조작될 수 있고, 심지어 처음부터 존재하지 않았던 기억이 이식될 수도 있습니다.
쿠사나기 소령 역시 자신의 뇌에 담긴 기억과 인격이 과연 원본 그대로인지, 의체화 과정에서 변형되거나 덧씌워진 것은 아닌지 확신하지 못합니다. 인간임을 정의하는 기준을 영혼으로 삼았는데, 그 영혼 자체의 경계와 순수성이 불분명하다면 결국 기준은 다시 허공에 뜨게 됩니다.
이렇게 영혼마저도 조작우려 때문에 순수성이 의심된다면, 육체도 영혼도 모두 인간이 인간임을 판별하는 기준으로서 사용할 수가 없는 상황에 빠지는 것입니다.
저는 요즘 ...
![[공동집필] 나는 왜 공부를 하고도 손실을 보았는가?](https://post-image.valley.town/duh6IrrTl5rP8Ss7458n_.png)


![[잡담] 태형도입을 놓고 Gemini와 말싸움(끝에 패배)](https://post-image.valley.town/edJFxrwiMTkGnL3y6v_NX.png)


LLM의 개입 여부, 역할의 의미는 크게 중요하지 않다고 봅니다. LLM이 쓸 수 있는 글 그리고 LLM 도움 없이 쓰는 글 그것글 보다 더 나은 결과, 수월함을 지향하면 되지 않을까 싶습니다! 이를 위해 LLM과 친해지면서도 동시에 독립적인 능력 성장도 필요할 것 같은데....(해줘! 라고 클로드에게 부탁하며...) 오늘도 좋은 글 감사드려요!

저도 같은 생각입니다.
뭐 어디 대회나 공모전처럼 상금을 두고 경쟁하기 위해 LLM 사용을 명시적으로 금지하는 곳이 아닌 이상은, 더 이상 구분의 경계가 모호하고, 그 경계를 정의하는 것 자체가 소모적인 영역으로 세계가 진입하고 있는 것 같습니다.
특히 개인투자자 입장에서는 그래서 결과물이 더 효율적인가에 집중해야 할 것 같네요.
감사합니다!

안경을 쓴 사람한테 진짜 시야가 아니니까 맨눈으로 살아야 한다고 말하는 사람은 없을 것입니다.
리처드 도킨스의 확장된 표현형이라는 개념, LLM도 이 지점까지 온 것 아닐까 싶습니다.

오... 저도 안경을 써서 그런가 안경에 비유하시니까 확 와닿습니다. 어느새 LLM이 삶에 이정도까지 침투했나 하는 묘한 기분이 듭니다.

리처드 도킨스의 <확장된 표현형>이라는 책을 상당히 재밌게 읽었던 기억을 소환시켜준 이 글을 읽고 댓글을 달려고 했더니 이미 bottlemove님이 써주셨네요. 우리는 늘 경계를 허무는 어떤 집단의 활동에 의해서 문명을 고도화해왔습니다. 아니... 유전적 번성을 했다고 해야할까요? 이번 번성의 한 축은 AI를 활용하는 집단의 활동에 의해서 도약할 것이라는 상상을 하고 있던 차에 911님 좋은 글 올려주셔서 감사하고 bottlemove님 댓글 덕에 저도 댓글 달 수있어서 감사합니다.

저는 외장 뇌라는 표현을 좋아하는데요, 단순히 기능뿐만 아니라 내 밖에 있을 뿐 나의 뇌의 일부처럼 작동하기 때문입니다. 저도 나의 생각과 llm의 생각을 구별하는건 불가능하고 유의미하지도 않다고 생각합니다. 아니, 애초에 자기 생각만으로 세계를 구성하는 사람이 존재하긴 했었나요?

맞습니다. 저도 LLM을 쓰면서 이게 진정 '내가 원래 가지고 있던 생각'인가? 아니면 LLM과의 대화중에 얻게된 인사이트가 기억으로 저장되어서 내가 가지고 있던 생각처럼 느껴지는것인가? 그리고 이걸 구분할 수가 있나? 그리고 구분하는 의미가 있나? 이런 생각을 하다가... 결국 이걸 따지는게 무의미하다는 결론에 이르러 이 글을 쓰게되었습니다.

많은 생각할 거리를 던져주는 좋은 글이네요

글을 쓰고 다음날 다시 읽어보니, 너무 당연한 얘기를 하고 있나 싶기도 합니다 ㅋㅋㅋ 읽어주셔서 감사합니다.

헉

우리 모두 사이보그가 되어버린 것입니다 ㅜㅜ

"호모사이보그" 군요 ㄷㄷ

쿠사나기의 실존적인 고민은 의체화에 의한 것이 아니라 전뇌화에 의한 것입니다. 쿠사나기 소령은 설정 상 의체화 뿐만 아니라 신체의 극히 일부분을 제외하고 뇌까지 전뇌화한 상태입니다. 뇌까지도 전자화 되어 있기에 자신의 생각 조차도 의심하게 되고 자신의 존재를 의심하게 되는 겁니다. 사실 공각기동대의 주제 자체는 의체화 여부가 중요한 것이 아니라 전뇌화에 의해 생각까지 조작 가능해진다면 인간을 대체 무엇으로 정의 내릴 것인가 입니다. 즉 데카르트의 생각한다 고로 존재한다가 성립하지 않게 되니 생각하고 있는 나의 존재 자체를 의심하게 되는 것이죠. 공각기동대 극장판은 ai든 인간 이든 자신의 존재를 스스로 인식한다면 그것 자체로 인간이다 라는 결론을 내립니다.

공각기동대의 주제를 LLM에 대입해보자면... 인간이 LLM에게 사고를 맡긴다 할지라도 prompt를 입력하는 것은 인간이기 때문에 그 결과물은 prompt를 입력한 인간의 의도에 의해 결정된다고 생각합니다. 저는 LLM이 발전하면서 인간의 기교가 중요해지는 시대가 끝나고 의도가 중요해지는 시대가 왔다고 생각합니다. 공각기동대로 따지자면 인간의 신체나 기억 같은 기표가 중요한 것이 아니라 자아라는 기의가 중요해지는 것이지요. 즉 전뇌화(=LLM에게 사고를 맡긴 인간)를 했더라도 prompt를 입력하는 의도(=자아 즉 고스트)가 존재하는 이상 LLM의 결과물은 prompt를 입력한 인간의 것이라는 겁니다. 아 물론 라캉 식으로 LLM에 prompt를 입력하는 나의 의도 자체가 사실은 자아라고 착각하는 것에 불과한 거울 같은 것이라면 좀 섬뜻해지긴 합니다만...

댓글을 보고 다시 원작을 돌려 보니, 말씀대로 쿠사나기 소령은 신체일부를 의체화한 것이 아니라, 뇌를 통째로 메가테크사의 로봇에 심은 거니까 전뇌화했다고 보는 것이 더 적절하겠습니다. 말씀해주신 덕분에 조금 잘못된 부분을 수정했습니다. 감사합니다!

prompt를 입력하는 의도(=자아 즉 고스트), 이 prompt 입력값 자체가 인간의 어떤 판단이 개입하지 않고 단순히 "해줘"라고 요청하는 경우에는, 그 요청에 어떠한 영혼(고스트)도 없는 결여된 상태라고 생각해서 저는 글을 적게 되었는데, 이 부분에 대해서는 저도 달아주신 댓글과 함께 더 깊게 생각을 해보아야 할 포인트 같습니다.

깊은 고민에서 나온글이라 느껴지네여. 울림을 주셔서 감사합니다

너무 장황한 감도 살짝 있는데, 의도가 잘 전달되었다면 다행입니다. 감사합니다!

이 글이 LLM을 사용해서 썼다는게 무색하게 기존의 글쓰기에서 느껴지던 매끄러움이 잘 느껴졌습니다. 인사이트있는 글이라고 생각이 드네요 감사합니다

늘 제 글에 많이 관심가져주셔서 그런 부분을 느끼신 것 같습니다. 영광이네요!

말씀하신대로 의식적으로 2번을 통해서 근본 실력을 높일수록, LLM을 레버리지하여 결과물을 만들어내는 것도 잘해낼 수 있지 않을까 합니다. 프로그래밍의 기본을 모른채로 프롬프트 엔지니어링에 의존하는 바이브 코딩에 한계가 있는 것처럼요.

네 저도 결국 바이브 코딩과 정확히 동일하게, 인풋값을 고퀄로 넣어야 LLM 답변도 고퀄로 나온다라고 생각해서, 결국 인풋값을 정확하게 넣는 역량이 여전히 중요할 것 같다는 생각을 동일하게 합니다. (그리고 그 인풋값을 잘 넣기 위해 또 LLM을 이용하는...ㅋㅋㅋㅋ)

재밌는 토론이네요. 생각할 거리를 던져주셔서 감사합니다

읽어주셔서 감사합니다!