약국 차리기

안드레이 카르파티가 말하는 “유령을 소환하는 시대”: 에이전트의 10년 https://youtu.be/lXUZvyajciY?si=ackafa9_gqJlbffo 서론: “지금은 에이전트의 해가 아니라, 에이전트의 10년이다” 최근 AI 업계는 “올해는 에이전트의 해”라고 떠들썩하다. 하지만 테슬라와 OpenAI의 핵심 인물이었던 안드레이 카르파티(Andrej Karpathy)는 이 말에 고개를 젓는다. “지금의 에이전트는 ‘함께 일하고 싶은 직원’ 수준에 도달하지 못했다. 해결해야 할 문제가 너무 많다.” 그가 말한 건 단순한 비관이 아니다. 오히려 지금의 한계를 명확히 짚으며, “앞으로 10년이 진짜 승부”라는 통찰이다. 1. 에이전트의 결핍 — 인간 같은 ‘직원’이 되려면 카르파티는 현 AI 에이전트가 아직 부족한 네 가지 능력을 꼽았다. 멀티모달 이해력 — 시각, 청각, 텍스트를 자연스럽게 연결하지 못한다. 컴퓨터 사용 능력 — 파일 관리, 코드 실행, 웹 조작 등 실제 도구 활용이 미숙하다. 지속적 학습(기억) — 대화를 잊고, 경험에서 발전하지 않는다. 일반지능(G) — 한 도메인을 넘어선 전이 능력이 부족하다. 이 결핍을 채우는 과정이...

좋은 글 있어서 공유합니다. AI 가 개인의 생산성을 높임으로써, AI 스타트업 붐이 생길 것이라는 막연한 생각이 있었는데, 보다 구체화된 생각을 정리한 Andrej Karpathy의 글이 있어 들고 왔습니다. 출처: https://karpathy.bearblog.dev/power-to-the-people/ 변혁적인 기술은 일반적으로 상향식 확산 경로를 따릅니다. 이는 정부나 군사적 맥락에서 시작되어 기업을 거쳐 개인에게 도달하는 방식입니다. 전기, 암호학, 컴퓨터, 비행, 인터넷, GPS를 떠올려보세요. 이러한 기술들은 초기 단계에서 희소하고 자본 집약적이며, 전문적인 기술 지식을 필요로 하기 때문에 이러한 진행이 직관적으로 느껴집니다. 하지만 대규모 언어 모델(LLM)은 이 패턴을 극적으로 뒤집는 독특하고 주목할 만한 사례로 보입니다. LLM은 일반 대중에게 불균형적으로 큰 혜택을 제공하는 반면, 기업과 정부에서는 그 영향이 상대적으로 약하거나 더디게 나타납니다. 예를 들어, ChatGPT는 역사상 가장 빠르게 성장한 소비자 애플리케이션으로 주간 활성 사용자 수가 4억 명에 달하며, 글쓰기, 코딩, 번역, 과외, 요약, 심층 연구, 브레인스토밍 등 다양한 용도로 사용됩니다. 이는 기존 기술의 소폭 업그레이드가 아니라 개인의 능력을 여러 방면에서 크게 확장시키는 주요 도구입니다. 사용 장벽도 매우 낮아 무료 또는 저렴하게 제공되며, 누구나 URL이나 로컬 기기를 통해 즉시 사용할 수 있고, 사용자 모국어뿐만 아니라 다양한 언어와 톤까지 지원합니다. 이는 놀라운 변화로, 일반 대중이 이렇게 급격한 기술적 도약을 경험한 적은 없었습니다. 그렇다면 왜 기업과 정부에서는 이러한 혜택이 상대적으로 약할까요? 첫 번째 이유는 LLM이 특정한 능력 프로파일을 제공하기 때문입니다. 이는 넓은 분야에서 준전문가 수준의 성과를 내지만 깊이가 부족하고 오류 가능성이 있다는 점입니다. 반면 조직은 엔지니어, 연구원, 분석가 등 다양한 전문가를 고용해 전문 지식을 집중시키는 것이 강점입니다. LLM은 이 전문가들의 개별 효율성을 높일 수는 있지만(예: 초안 작성, 코드 생성 등), 조직 전체에는 기존 작업의 약간의 개선 정도로만 영향을 미칩니다. 반면 개인은 한두 가지 분야에만 전문성을 갖추고 있는 경우가 많아 LLM이 제공하는 폭넓은 준전문가적 능력은 개인이 이전에는 할 수 없었던 일을 가능하게 합니다. 두 번째 이유는 조직이 훨씬 더 복잡하고 조정이 필요한 문제를 다루기 때문입니다. 예를 들어 통합 시스템, 레거시 시스템, 브랜드 가이드라인 준수, 보안 프로토콜 및 규제 준수 등이 포함됩니다. 이러한 변수와 제약 조건이 많아 단순히 "코드를 작성해보자"는 식으로 해결할 수 없습니다. 한 번의 실수로도 심각한 결과를 초래할 수 있습니다. 세 번째 이유는 조직의 관성입니다. 이는 문화적 요인, 역사적 선례, 정치적 갈등, 커뮤니케이션 비용 증가 및 재교육 문제 등을 포함합니다. 이러한 요인들은 새로운 도구를 신속히 채택하는 데 큰 장애물이 됩니다. 앞으로 LLM의 확산은 성능 개선과 능력 프로파일에 크게 좌우될 것입니다. 현재 최첨단 LLM의 성능은 저렴하고 접근 가능한 상태입니다. 하지만 자본 투자로 더 나은 성능을 얻을 수 있는 시점이 오면 상황이 달라질 것입니다. 대규모 조직은 자원을 집중해 더 나은 인공지능을 구매할 수 있게 되고, 개인 간에도 격차가 발생할 가능성이 있습니다. 현재 우리는 기술 역사상 독특하고 전례 없는 상황에 놓여 있습니다. 과거 공상과학 소설에서는 AI 혁명이 정부의 비밀 프로젝트로 시작될 것이라 예측했지만, 실제로는 ChatGPT가 무료로 모든 사람의 손에 들어오는 방식으로 진행되었습니다. 윌리엄 깁슨의 말처럼 "미래는 이미 와 있다. 단지 고르게 분배되지 않았을 뿐이다." 하지만 이번에는 미래가 놀라울 정도로 고르게 분배되고 있습니다. "사람들에게 권력을!" 원문 Transformative technologies usually follow a top-down diffusion path: originating in government or military contexts, passing through corporations, and eventually reaching individuals - think electricity, cryptography, computers, flight, the internet, or GPS. This progression feels intuitive, new and powerful technologies are usually scarce, capital-intensive, and their use requires specialized technical expertise in the ...

https://youtu.be/lIviZsXrCzg?si=Mg3mXZIQEOiBxya3 매크로 분석은 내 능력 밖인데, 레오성님 영상을 보며 정말 많은걸 배운다.