주말 막바지에 생각하는 - 회복탄력성에 대해서

안녕하세요. 슈크림빵입니다! 저번 글에서 Story Generation 연구를 진행했다고 언급했더니, 이에 대해 더 이야기해달라는 분이 계셔서 간단히 풀어보려 합니다. 석사 시절 인턴으로 참여했던 연구인데, 벌써 2년 전 이야기라 내용이 많이 낡기도 했고 대외비에 걸쳐 있는 부분도 있어서, 제 연구 자체를 공개하기보다는 소설 생성이 어떤 방향으로 연구되고 있는지를 소개하는 방식으로 써보려 해요. 원래 저는 석사 때 멀티모달(Multi-modal) 쪽을 주로 연구했고, 여기에 Prompt Learning이 섞여 있었습니다. 그래서 인턴에서 받은 주제도 자연스럽게 LLM과 Prompt Engineering을 활용해 생성의 질을 최대한 높이는 것이었어요. 자연어 처리 경험이 거의 없었음에도, 제가 ‘문예창작’ 출신이라는 이유로 인문학적 감각을 가진 엔지니어라는 포지션으로 운 좋게 참여할 수 있었습니다. 약 6개월간 진행한 연구에서 제 목표는 영어로 2,000단어 이상의 장편 스토리를 생성하되, 최대한 창의적이고 흥미로운 서사를 만들어내는 것이었습니다. 지금은 LLM이 긴 글도 제법 잘 쓰지만, 당시는 GPT-4o가 막 나왔을 시기였고, 장편 스토리를 맡기면 결말까지 쓰지 않고 ...으로 흐지부지 끝내는 경우가 꽤 많았습니다. 아마 학습 데이터 특성상 영화나 책의 줄거리가 결말 없이 짧게 요약된 형태로 많이 포함되어 있다 보니, 그 패턴을 따라가는 경향이 있었던 것 같아요. 그리고 생성 연구에는 항상 따라오는 숙제가 있습니다. 바로 “어떻게 평가할 것인가?” 입니다. 이미지든, 텍스트든, 오디오든, 비디오든 생성 결과물이 나왔을 때 무엇이 더 잘 만들어진 건지 판단할 기준 자체가 명확하지 않습니다. 예를 들어 제가 “슈크림빵을 먹는 햄스터” 이미지를 만들어달라고 했을 때, 두 모델이 모두 그럴듯한 결과를 내놓았다고 해봅시다. 여러분은 어느 쪽에 더 높은 점수를 주시겠어요? 이처럼 정답이 없는 창작물의 품질을 어떻게 수치화할 것인가? 이것이 생성 연구의 난제 중 하나입니다. 소설 생성도 마찬가지고요. 그럼 본론으로 들어가서, 현재 소설 생성 연구가 어떤 방향으로 흘러가고 있는지 살펴보겠습니다. 그래서, AI는 소설을 어떻게 쓰나요? 여러분도 한 번쯤 ChatGPT한테 “소설 써줘”라고 해보신 적 있으신가요? 처음엔 꽤 그럴듯하게 시작하다가, 어느 순간 갑자기 “그렇게 둘은 행복하게 살았습니다” 하고 마무리되거나, 아니면 흐지부지 끝나버리는 경험. 저도 연구하면서...

안녕하세요, 슈크림빵입니다. 벚꽃이 활짝 만개했는데요! 이제 전국적으로 거의 다 핀 것 같아서 봄내음이 물씬입니다~🌸 AI는 안 죽고 저만 죽었지만요... 오늘은 The IT department: Where AI goes to die의 글을 소개 시켜드리려고 하는데, 전문은 The Economist 유료 콘텐츠라 접근이 안 되실 거예요! 그래서 저도 링크드인이나 여러 글을 찾아 종합해서 이 글을 정리해보았습니다! 기사 저자는 Ethan Mollick (에단 몰릭)으로 펜실베이니아대학교 와튼스쿨(Wharton School) 경영학과 부교수로, AI·혁신·창업을 연구하는 사람이라 합니다. 기사 개요 제목 자체가 주장입니다. AI가 IT 부서로 가면 "죽는다"는 것이 그의 주장입니다. 1. AI는 "이상한(weird)" 기술이다 AI 중에서 자연어처리(NLP)를 담당하는 거대 언어 모델(LLM)은 본질적으로 '다음에 올 단어를 예측하는 시스템'입니다. 그런데 이 단순한 원리로 작동하는 모델이 코드를 쓰고, 전략을 조언하고, 사람의 감정에 공감하는 응답까지 내놓는다는 것 자체가 기이한 일입니다. Mollick은 이런 AI의 능력 경계를 "jagged frontier(울퉁불퉁한 경계)"라고 부릅니다. 예상 밖의 영역에서는 놀랍도록 뛰어나면서, 당연히 잘할 것 같은 영역에서는 허무하게 실패하는 — 매끈하지 않고 들쭉날쭉한 능력의 지형을 뜻합니다. 2. 기업들이 AI의 이상함을 제거(de-weirding)하려 한다 AI는 이상한 기술입니다. 어디에 위험이 있고 어디에 기회가 있는지, 써봐야 비로소 알 수 있습니다. 그런데 많은 기업이 AI를 마치 ERP나 이메일 시스템 같은 평범한 IT 도구처럼 다루려 합니다. Mollick은 이렇게 AI의 이상함을 지워버리는 것(de-weirding)이 기업과 직원 모두에게 나쁜 결과를 낳는다고 ...

안녕하세요, 진짜 퇴사 후 백수가 된 슈크림빵입니다. 그 짧은 약 1주일 동안 한 게 너무 많아서 어떻게 지냈는지 개인 블로그에 쓰고 있는데, 밸리에도 올려보고 싶네용 ㅎㅎ 아무튼 오늘도 Hacker News에서 본 글인데, 저랑 관련이 있는 것 같아서 제 생각과 함께 글로 써보려고 합니다. Alex Woods의 글: Don't Let AI Write For You AI가 대신 글을 쓰게 하지 마라 문서나 에세이를 쓸 때, 우리는 질문을 던지고 그에 답하는 과정을 거친다. 예를 들어 PRD는 "무엇을 만들어야 하는가?"라는 질문에 답하고, 기술 스펙은 "어떻게 만들어야 하는가?"에 답한다. 때로는 질문 자체가 더 어렵기도 하다. "우리가 도대체 무엇을 이루려는 건가?" 그리고 답을 시도할 때마다, 올바른 질문을 하고 있는지 되돌아보게 된다. 하지만 이제, 물론 LLM이 있다. LLM이 생성한 문서, 글, 에세이가 점점 늘어나는 것을 목격하고 있다. 이에 대해 경고하고 싶다. LLM이 생성한 문서 하나하나가 사고하고 신뢰를 쌓을 기회를 놓치는 것이다. 사고 글쓰기의 목표는 글을 완성하는 것이 아니다. 자신의 이해를 깊게 하고, 이어서 주변 사람들의 이해를 깊게 하는 것이다. 무언가를 쓰라는 과제를 받았을 때, 당신이 할 일은 혼돈 속으로 들어가 구조와 이해를 가지고 나오는 것이다. 미지의 것을 정복하는 것이다. 글쓰기의 이차적 목표는 더 유능해지는 것이다. 이것은 운동과 같다. 자신의 한계에서 한 번 반복할 때마다 더 강해진다. 불편하고 힘이 드는 일이다. LLM에게 글을 대신 쓰게 하는 것은 다른 사람에게 돈을 주고 대신 운동시키는 것과 같다. 신뢰 구축 LLM이 생성한 글에는 사회적 영향도 있다. 누군가에게 ...

안녕하세요, 슈크림빵입니다. 아직 퇴사는 안 했지만 반백수가 되어 보니 평일과 주말 모두 구분없이 여유로움이 생겨 좋은 것 같아요. 관심이 가는 뉴스를 찾고, 밸리에 공유하고 싶은 마음이 들면 어김없이 또 오게 되네요 ㅎㅎ 아까 낮에 올린 감사하지만, 뒤처져도 괜찮습니다! 이 글과는 사뭇 다른 분위기일 겁니다! 왜냐하면 안드레이 카파시가 말하는 내용이기 때문이겠죠 ㅎㅎ 원본 동영상은 무려 1시간 7분짜리입니다! 저도 다보진 않고 유튜브 요약을 통해 보았습니다. 아래 링크가 있습니다. 제목을 직역하면 "안드레이 카파시가 말하는 AI 에이전트 시대의 코딩, 자동 연구, 그리고 미래"가 될 것 같습니다. 원본 동영상: Andrej Karpathy on Code Agents, AutoResearch, and the Loopy Era of AI 영상 주제: AI 코딩 에이전트의 등장으로 소프트웨어 개발 방식이 근본적으로 바뀌었습니다. 핵심은 자신을 병목에서 제거하고, 토큰 처리량을 극대화하는 것입니다. 1. 코딩 패러다임의 전환 👉 "더 이상 코드를 치지 않습니다" 카파시는 2024년 12월을 기점으로 직접 코드를 작성하는 비중이 80%에서 거의 0%로 급감했다고 말합니다. 이전에는 타이핑 속도가 병목이었지만, 이제는 에이전트에게 의도를 얼마나 잘 전달하느냐가 핵심 역량이 되었습니다. 본인의 표현을 빌리면, "코딩"이 아니라 "의지를 에이전트에 표현하는 것"에 가깝다고 합니다. 대부분의 사람들은 이 변화가 이미 일어났다는 사실과 그 정도를 아직 체감하지 못하고 있습니다. 2. 병렬 에이전트 운용 👉 작업의 단위가 달라졌습니다 Peter Steinberger의 사례가 대표적입니다. Codex 에이전트를 동시에 여러 개 띄워 놓고, 10개 이상의 레포를 동시에 운영하며 각 에이전트에 약 20분 단위의 독립적인 기능을 할당하는 방식입니다. 작업의 단위가 '코드 한 줄'이나 '함수 하나'에서 '새 기능 하나'로 올라간 셈입니다. 에이전트 1에게는 기능 A를 에이전트 2에게는 충돌하지 않는 기능 B를 에이전트 3에게는 리서치를, 에이전트 4에게는 구현 계획 수립을 이런 식의 매크로 단위 작업 배분이 새로운 워크플로우로 자리잡고 있습니다. 카파시는 구독 토큰이 남아 있으면 "처리량을 끝까지 뽑지 못했다"는 뜻으로 받아들이며 불안하다고까지 표현합니다. (이건 프로 이상 요금제를 구독하시는 모든 분들이 겪는 증상 같습니다...) 과거 박사 과정에서 GPU FLOP을 최대치로 못 뽑으면 초조했던 감각이, 이제는 토큰 처리량 지휘 능력으로 전환된 것입니다. 3. 모든 실패는 스킬 이슈 👉 "모델 탓이 아닙니다" 에이전트가 잘 안 되는 건 모델 능력 부족이 아니라, 사용자의 숙련도 문제로 체감된다고 합니다. 원인은 대부분 이런 것들입니다. agents.md 같은 지시 파일의 구성 미흡 메모리 도구 설정 부족 작업 분할 전략의 부재 개선 가능성이 무한하다는 점에서 중독적이지만, 동시에 끊임없이 최적화를 추구하게 되면서 카파시 본인이 "AI 사이코시스"라고 표현할 정도로 몰입하게 되는 측면도 있습니다. 4. 에이전트의 성격이 생각보다 중요합니다 흥미롭게도 에이전트의 성격(personality)이 작업 경험에 큰 영향을 미칩니다. OpenClaw: 진짜 팀원 같고, 함께 신나하는 느낌 Codex: 매우 건조하고 담백, 사용자가 뭘 만드는지에 관심이 없어 보이는 스타일 Claude: 칭찬의 톤 조절이 뛰어남. 평범한 아이디어에는 절제된 반응, 좋은 아이디어에는 확실하게 반응하여 사용자가 칭찬을 받고 싶어지는 효과 에이전트를 단순한 도구가 아니라 협업 파트너로 바라보는 시각이 점점 중요해지고 있다는 점을 시사합니다. 5. 집요정 Dobby 👉 홈 오토메이션의 미래상 카파시가 1월에 직접 만든 홈 오토메이션 에이전트 "Dobby, 집요정 Claw"의 사례입니다. 에이전트가 로컬 네트워크를 자동 스캔해서 스마트홈 서브시스템을 발견하고, API를 역공학하여 대시보드까지 구축합니다. 실제로 이런 일들이 가능해졌습니다. Sonos 시스템 발견 → API 엔드포인트 역공학 → 프롬프트 세 번으로 서재에서 음악 재생 조명 시스템 전체 파악 후 대시보드 구축 "잘 시간이야"라고 말하면 집 안 조명이 모두 꺼지는 자연어 제어 외부 카메라의 변경 감지 → ...

안녕하세요, 슈크림빵입니다! 오늘은 제가 흥미롭게 읽은 글을 생각해보고자 가져왔습니다.😎 저도 개발자로 지내다 보니 새로운 기술에 대한 FOMO(놓칠까 봐 두려움)가 항상 존재합니다. 하지만 때론 이러한 두려움 자체를 무기화하는 현상에 지칠 때도 있죠. 이 글은 그 포모에 대해 "기다려도 괜찮다"고 얘기하는 글입니다! 원문: "I'm OK being left behind, thanks!" 몇 년 전, 누군가 저에게 암호화폐를 권한 적이 있습니다. "이게 돈의 미래야!" 라고요. 저는 좀 더 쓸 만하고, 덜 불안정하고, 쓰기 쉽고, 완전히 신뢰할 수 있게 되면 그때 시작하겠다고 답했습니다. 그러자 이런 말이 돌아왔습니다. "뒤처지고 싶어?" 이상한 말이라고 느꼈습니다. 뒤처진다니, 대체 뭐에서요? 비트코인이든 뭐든 정말로 우리 모두를 경제적 고단함에서 해방시켜줄 거라면, "일찍 들어가는 것"이 무슨 의미가 있을까요? 내일도 거기 있을 텐데, 제가 적절하다고 느낄 때 합류하면 되는 거 아닌가요. 크립토 시절의 대표적인 압박 문구가 있었습니다. "가난하게 살면서 재미나 보세요(Have Fun Staying Poor)." FOMO를 무기화한 이 문장은, 사람들의 회의감을 내려놓게 만드는 교묘한 방법이었습니다. 지금의 AI 도구들을 보면서 비슷한 감정을 느낍니다. 이것저것 써봤습니다. 괜찮은 것도 있었습니다. 대부분은 좀 별로였습니다. 지금 상태로 저에게 실질적으로 유용한 건 거의 없었습니다. 과대광고가 현실이 될 때까지 기다려도 전혀 불안하지 않습니다. DOS용 워드스타 사용법을 지금 배워야 할 이유가 있을까요? 구글 독스가 곧 나올 텐데요. 이 기술이 정말 말하는 것만큼 대단하다면, 제가 원하는 시점에 배워도 충분히 생산적으로 쓸 수 있을 겁니다. 당신의 일정이 아니라 저의 일정에 맞춰서요. Git이 처음 나왔을 때 바로 쓰지 않았습니다. 안정화되고, 채용 공고에서 요구하기 시작했을 때 배웠습니다. 초창기의 고생을 함께 했다면 7% 정도 더 능숙했을까요? 어쩌면요. 하지만 그래서 뭐 어떤가요? 결국 뜨지 못한 기술을 배우느라 같은 시간을 낭비했을 수도 있습니다. 석사 논문을 메타버스로 썼습니다. VR을 만드는 법을 배우는 건 재밌었지만, 완전히 시간 낭비였습니다. 일찍 들어간 것이 가져다준 실질적 효용은 정확히 제로였습니다. 물론 최전선에 서는 것이 합리적인 경우도 있긴 ...