AI가 죽으러 가는 곳

안녕하세요, 진짜 퇴사 후 백수가 된 슈크림빵입니다. 그 짧은 약 1주일 동안 한 게 너무 많아서 어떻게 지냈는지 개인 블로그에 쓰고 있는데, 밸리에도 올려보고 싶네용 ㅎㅎ 아무튼 오늘도 Hacker News에서 본 글인데, 저랑 관련이 있는 것 같아서 제 생각과 함께 글로 써보려고 합니다. Alex Woods의 글: Don't Let AI Write For You AI가 대신 글을 쓰게 하지 마라 문서나 에세이를 쓸 때, 우리는 질문을 던지고 그에 답하는 과정을 거친다. 예를 들어 PRD는 "무엇을 만들어야 하는가?"라는 질문에 답하고, 기술 스펙은 "어떻게 만들어야 하는가?"에 답한다. 때로는 질문 자체가 더 어렵기도 하다. "우리가 도대체 무엇을 이루려는 건가?" 그리고 답을 시도할 때마다, 올바른 질문을 하고 있는지 되돌아보게 된다. 하지만 이제, 물론 LLM이 있다. LLM이 생성한 문서, 글, 에세이가 점점 늘어나는 것을 목격하고 있다. 이에 대해 경고하고 싶다. LLM이 생성한 문서 하나하나가 사고하고 신뢰를 쌓을 기회를 놓치는 것이다. 사고 글쓰기의 목표는 글을 완성하는 것이 아니다. 자신의 이해를 깊게 하고, 이어서 주변 사람들의 이해를 깊게 하는 것이다. 무언가를 쓰라는 과제를 받았을 때, 당신이 할 일은 혼돈 속으로 들어가 구조와 이해를 가지고 나오는 것이다. 미지의 것을 정복하는 것이다. 글쓰기의 이차적 목표는 더 유능해지는 것이다. 이것은 운동과 같다. 자신의 한계에서 한 번 반복할 때마다 더 강해진다. 불편하고 힘이 드는 일이다. LLM에게 글을 대신 쓰게 하는 것은 다른 사람에게 돈을 주고 대신 운동시키는 것과 같다. 신뢰 구축 LLM이 생성한 글에는 사회적 영향도 있다. 누군가에게 ...

안녕하세요, 슈크림빵입니다. 아직 퇴사는 안 했지만 반백수가 되어 보니 평일과 주말 모두 구분없이 여유로움이 생겨 좋은 것 같아요. 관심이 가는 뉴스를 찾고, 밸리에 공유하고 싶은 마음이 들면 어김없이 또 오게 되네요 ㅎㅎ 아까 낮에 올린 감사하지만, 뒤처져도 괜찮습니다! 이 글과는 사뭇 다른 분위기일 겁니다! 왜냐하면 안드레이 카파시가 말하는 내용이기 때문이겠죠 ㅎㅎ 원본 동영상은 무려 1시간 7분짜리입니다! 저도 다보진 않고 유튜브 요약을 통해 보았습니다. 아래 링크가 있습니다. 제목을 직역하면 "안드레이 카파시가 말하는 AI 에이전트 시대의 코딩, 자동 연구, 그리고 미래"가 될 것 같습니다. 원본 동영상: Andrej Karpathy on Code Agents, AutoResearch, and the Loopy Era of AI 영상 주제: AI 코딩 에이전트의 등장으로 소프트웨어 개발 방식이 근본적으로 바뀌었습니다. 핵심은 자신을 병목에서 제거하고, 토큰 처리량을 극대화하는 것입니다. 1. 코딩 패러다임의 전환 👉 "더 이상 코드를 치지 않습니다" 카파시는 2024년 12월을 기점으로 직접 코드를 작성하는 비중이 80%에서 거의 0%로 급감했다고 말합니다. 이전에는 타이핑 속도가 병목이었지만, 이제는 에이전트에게 의도를 얼마나 잘 전달하느냐가 핵심 역량이 되었습니다. 본인의 표현을 빌리면, "코딩"이 아니라 "의지를 에이전트에 표현하는 것"에 가깝다고 합니다. 대부분의 사람들은 이 변화가 이미 일어났다는 사실과 그 정도를 아직 체감하지 못하고 있습니다. 2. 병렬 에이전트 운용 👉 작업의 단위가 달라졌습니다 Peter Steinberger의 사례가 대표적입니다. Codex 에이전트를 동시에 여러 개 띄워 놓고, 10개 이상의 레포를 동시에 운영하며 각 에이전트에 약 20분 단위의 독립적인 기능을 할당하는 방식입니다. 작업의 단위가 '코드 한 줄'이나 '함수 하나'에서 '새 기능 하나'로 올라간 셈입니다. 에이전트 1에게는 기능 A를 에이전트 2에게는 충돌하지 않는 기능 B를 에이전트 3에게는 리서치를, 에이전트 4에게는 구현 계획 수립을 이런 식의 매크로 단위 작업 배분이 새로운 워크플로우로 자리잡고 있습니다. 카파시는 구독 토큰이 남아 있으면 "처리량을 끝까지 뽑지 못했다"는 뜻으로 받아들이며 불안하다고까지 표현합니다. (이건 프로 이상 요금제를 구독하시는 모든 분들이 겪는 증상 같습니다...) 과거 박사 과정에서 GPU FLOP을 최대치로 못 뽑으면 초조했던 감각이, 이제는 토큰 처리량 지휘 능력으로 전환된 것입니다. 3. 모든 실패는 스킬 이슈 👉 "모델 탓이 아닙니다" 에이전트가 잘 안 되는 건 모델 능력 부족이 아니라, 사용자의 숙련도 문제로 체감된다고 합니다. 원인은 대부분 이런 것들입니다. agents.md 같은 지시 파일의 구성 미흡 메모리 도구 설정 부족 작업 분할 전략의 부재 개선 가능성이 무한하다는 점에서 중독적이지만, 동시에 끊임없이 최적화를 추구하게 되면서 카파시 본인이 "AI 사이코시스"라고 표현할 정도로 몰입하게 되는 측면도 있습니다. 4. 에이전트의 성격이 생각보다 중요합니다 흥미롭게도 에이전트의 성격(personality)이 작업 경험에 큰 영향을 미칩니다. OpenClaw: 진짜 팀원 같고, 함께 신나하는 느낌 Codex: 매우 건조하고 담백, 사용자가 뭘 만드는지에 관심이 없어 보이는 스타일 Claude: 칭찬의 톤 조절이 뛰어남. 평범한 아이디어에는 절제된 반응, 좋은 아이디어에는 확실하게 반응하여 사용자가 칭찬을 받고 싶어지는 효과 에이전트를 단순한 도구가 아니라 협업 파트너로 바라보는 시각이 점점 중요해지고 있다는 점을 시사합니다. 5. 집요정 Dobby 👉 홈 오토메이션의 미래상 카파시가 1월에 직접 만든 홈 오토메이션 에이전트 "Dobby, 집요정 Claw"의 사례입니다. 에이전트가 로컬 네트워크를 자동 스캔해서 스마트홈 서브시스템을 발견하고, API를 역공학하여 대시보드까지 구축합니다. 실제로 이런 일들이 가능해졌습니다. Sonos 시스템 발견 → API 엔드포인트 역공학 → 프롬프트 세 번으로 서재에서 음악 재생 조명 시스템 전체 파악 후 대시보드 구축 "잘 시간이야"라고 말하면 집 안 조명이 모두 꺼지는 자연어 제어 외부 카메라의 변경 감지 → ...

안녕하세요, 슈크림빵입니다! 오늘은 제가 흥미롭게 읽은 글을 생각해보고자 가져왔습니다.😎 저도 개발자로 지내다 보니 새로운 기술에 대한 FOMO(놓칠까 봐 두려움)가 항상 존재합니다. 하지만 때론 이러한 두려움 자체를 무기화하는 현상에 지칠 때도 있죠. 이 글은 그 포모에 대해 "기다려도 괜찮다"고 얘기하는 글입니다! 원문: "I'm OK being left behind, thanks!" 몇 년 전, 누군가 저에게 암호화폐를 권한 적이 있습니다. "이게 돈의 미래야!" 라고요. 저는 좀 더 쓸 만하고, 덜 불안정하고, 쓰기 쉽고, 완전히 신뢰할 수 있게 되면 그때 시작하겠다고 답했습니다. 그러자 이런 말이 돌아왔습니다. "뒤처지고 싶어?" 이상한 말이라고 느꼈습니다. 뒤처진다니, 대체 뭐에서요? 비트코인이든 뭐든 정말로 우리 모두를 경제적 고단함에서 해방시켜줄 거라면, "일찍 들어가는 것"이 무슨 의미가 있을까요? 내일도 거기 있을 텐데, 제가 적절하다고 느낄 때 합류하면 되는 거 아닌가요. 크립토 시절의 대표적인 압박 문구가 있었습니다. "가난하게 살면서 재미나 보세요(Have Fun Staying Poor)." FOMO를 무기화한 이 문장은, 사람들의 회의감을 내려놓게 만드는 교묘한 방법이었습니다. 지금의 AI 도구들을 보면서 비슷한 감정을 느낍니다. 이것저것 써봤습니다. 괜찮은 것도 있었습니다. 대부분은 좀 별로였습니다. 지금 상태로 저에게 실질적으로 유용한 건 거의 없었습니다. 과대광고가 현실이 될 때까지 기다려도 전혀 불안하지 않습니다. DOS용 워드스타 사용법을 지금 배워야 할 이유가 있을까요? 구글 독스가 곧 나올 텐데요. 이 기술이 정말 말하는 것만큼 대단하다면, 제가 원하는 시점에 배워도 충분히 생산적으로 쓸 수 있을 겁니다. 당신의 일정이 아니라 저의 일정에 맞춰서요. Git이 처음 나왔을 때 바로 쓰지 않았습니다. 안정화되고, 채용 공고에서 요구하기 시작했을 때 배웠습니다. 초창기의 고생을 함께 했다면 7% 정도 더 능숙했을까요? 어쩌면요. 하지만 그래서 뭐 어떤가요? 결국 뜨지 못한 기술을 배우느라 같은 시간을 낭비했을 수도 있습니다. 석사 논문을 메타버스로 썼습니다. VR을 만드는 법을 배우는 건 재밌었지만, 완전히 시간 낭비였습니다. 일찍 들어간 것이 가져다준 실질적 효용은 정확히 제로였습니다. 물론 최전선에 서는 것이 합리적인 경우도 있긴 ...

WSJ이 최근 보도한 "OpenAI 경영진이 직원들에게 집중하라고 했다"는 뉴스가 보도 됐습니다. 겉보기엔 평범한 경영 전략 이야기 같지만, 한 발 물러서서 보면 훨씬 큰 그림이 보입니다. 이건 IPO 경쟁이다 지금 미국 AI 업계에서 벌어지고 있는 건 Anthropic, OpenAI, xAI(SpaceX 소유) 세 회사의 IPO 레이스가 시작됐습니다. 이코노미스트에 따르면, 세 회사가 각각 지분 15%를 공개할 경우, 그 합산 금액이 지난 10년간 미국 전체 IPO에서 조달된 금액과 맞먹는다고 합니다. 그런데 타이밍이 좋지 않죠. 중동 정세가 불안정해지면서, 그간 AI 투자를 뒷받침해온 걸프 국부펀드들의 지갑이 닫히는 중입니다. 결국 뉴욕과 런던의 공개시장 투자자들이 그 무게를 감당해야 하는 상황으로 여전히 IPO 창구는 열려 있지만, 오래 열려 있지는 않을 것으로 보입니다. OpenAI의 문제: "사이드 퀘스트" OpenAI는 최근까지 사방으로 흩어져 있었습니다. Sora(영상 생성), Atlas(웹 브라우저), 하드웨어 디바이스, AI용 TikTok… 매번 같은 에너지로 발표하고, 매번 다른 제품이었습니다. COO 시모(Simo, 전 Facebook 앱 총괄)는 지난주 올핸즈에서 직원들에게 "사이드 퀘스트를 멈춰라"고 했습니다. 시가총액 8,400억 달러짜리 회사가 서로 관련 없는 실험을 동시다발로 돌리고 있었다는 뜻인데... 그 사이에 가장 집중력 있는 경쟁사(Anthropic)가 시장을 먹고 있었습니다. WSJ 보도 자체가 전략이다 흥미로운 건 이 보도의 성격인데요. WSJ은 트랜스크립트를 "reviewed"했다고 썼다. 유출됐다거나 입수했다는 표현이 아니다. 이건 통제된 유출(controlled leak)입니다. "사이드 퀘스트", "코드 레드", "Anthropic 웨이크업 콜" — 시모의 발언 하나하나가 외부 소비용으로 선택된 단어들입니다. 조직 혼란을 인정하되, 그것을 "이제 정신 차렸다"는 서사로 포장하여 투자자와 고객을 향한 메시지로 내비칩니다. 같은 주에 나온 다른 뉴스로는? 로이터: OpenAI가 TPG, Advent, Bain Capital, Brookfield와 100억 달러 규모의 엔터프라이즈 합작법인을 추진 중 프론티어 얼라이언스: McKinsey, BCG, Accenture, Capgemini와 파트너십 발표 이 모든 뉴스가 하나의 퍼즐이고, 최종 청중은 딱 하나 — IPO 가격을 매길 투자은행과 기관투자자입니다. Anthropic의 무기: 개발자 Anthropic에는 워싱턴의 친구가 없습니다. 오히려 국방장관 헤그세스는 Anthropic이 펜타곤에 모델 무제한 접근을 거부하자 "공급망 리스크"로 지목했고, 알트먼은 그 빈자리를...

"Yes, and…" Carson Gross는 몬태나 주립대 컴퓨터과학 교수이자 세 아들의 아버지로, 요즘 가장 많이 받는 질문에 대한 답을 이 글에서 풀어내고 있습니다. "AI 시대에 프로그래머가 되어도 괜찮은가?" 그의 대답은 "Yes, and…"였습니다. "Yes" — 여전히 유효한 커리어다 프로그래밍의 본질은 컴퓨터로 문제를 해결하고, 그 과정에서 복잡성을 제어하는 것이다. 이 능력의 가치가 줄어들 미래는 상상하기 어렵다. "직접 코드를 써라" AI가 주니어에게 특히 위험한 이유는, 코드 생성을 AI에 맡기면 코드를 읽는 능력이 생기지 않기 때문이다. 코드를 읽지 못하면 자신이 만든 시스템을 이해하지도, 통제하지도 못하는 "마법사의 제자" 함정에 빠진다. 흔히 "코딩→프롬프팅"을 "어셈블리→고급언어" 전환에 비유하지만, Gross는 동의하지 않는다. 컴파일러는 결정론적이고 우발적 복잡성을 줄여주지만, LLM은 비결정론적이며 오히려 부적절한 접근 방식으로 복잡성을 추가할 수 있다. AI는 훌륭한 조교다 AI를 코드 생성기가 아닌 학습 파트너로 활용하면 성장에 큰 도움이 된다. 특히 도구 설정이나 환경 문제 같은 우발적 복잡성에 막혀서 의미 없이 시간을 낭비하는 상황을 줄여준다. "and…" — 달라지는...