안녕하세요. 슈크림빵입니다! 이번엔 스탠퍼드 대학이 매년 발간하는 Emerging Technology Review는 10개 핵심 기술 분야의 현황과 정책적 함의를 정리한 리포트입니다. 관심 있는 챕터만 뽑아서 시리즈로 제작해보고 싶어서 번호를 붙여보았습니다. 첫번째 챕터는 역시나 AI입니다! SETR 2026의 첫 번째 챕터도 AI입니다. 1955년 스탠퍼드의 John McCarthy가 만든 용어답게, 스탠퍼드는 AI를 "지능적인 기계를 만드는 과학이자 공학"으로 정의하면서 시작합니다. 리포트의 핵심 메시지는 세 가지로 압축됩니다. ① AI는 전기·인터넷에 비견되는 기반 기술이며 다른 과학 분야를 가속화하고 있다. ② 가장 앞선 모델도 여전히 예측 불가능한 실패 모드와 사이버 취약점을 갖고 있다. ③ 글로벌 규범 경쟁이 진행 중이며, 컴퓨트 인프라와 국제 거버넌스가 지정학적 영향력의 핵심 레버다. 피규어 같은 경우는 클로드의 도움을 받아 한글로 번역하여 재제작하였습니다! 그럼 AI에 대한 글 리뷰를 시작해보겠습니다~! AI 시장의 규모감 리포트가 제시하는 숫자들로 현재 AI 시장의 스케일을 잡아보겠습니다. Goldman Sachs는 생성형 AI가 광범위하게 도입될 경우, 10년간 글로벌 GDP를 $7조 끌어올리고 생산성 성장률을 1.5%p 높일 수 있다고 추정합니다. 2022년 말 이후 AI 대화를 지배하고 있는 파운데이션 모델은, 방대한 데이터로 학습해 다양한 태스크에 활용되는 대규모 시스템입니다. 수십억~수조 개의 파라미터를 가지며, 전이 학습(transfer learning)에 뛰어나 태스크별로 별도 모델을 처음부터 학습할 필요를 줄여줍니다. SETR은 주요 모델을 세 가지로 분류합니다. 텍스트(LLM) 외에 이미지(DALL-E 3, Stable Diffusion, Imagen), 오디오(UniAudio), 비디오(Sora, Emu Video) 등 모달리티별 특화 모델도 빠르게 발전하고 있습니다. FIGURE 1.1 멀티모달 AI 시스템은 하나의 입력 유형을 다른 유형의 출력으로 변환할 수 있다 단일 모달 AI는 하나의 입력 유형(예: 텍스트)을 같은 유형으로 출력한다. 멀티모달 AI는 텍스트·이미지·사운드·비디오를 통합 처리해, 인간이 여러 감각을 활용하는 방식에 가깝게 작동한다. 접근성(실시간 자막, 수어 번역), 교육(맞춤형 학습), 의료(VR/AR 훈련 환경) 등에 활용 가능하다. GPT-4 학습에 들어간 자원 SETR은 AI의 자원 집약성을 GPT-4를 예로 들어 구체적으로 보여줍니다. 추론(inference) 단계에서도 ChatGPT 쿼리 한 건당 약 2Wh를 소비합니다. 구글 검색(0.3Wh)의 약 7배이며, AAA 건전지 하나와 비슷한 에너지입니다. 하루 수억 건의 쿼리를 감안하면, 운영 에너지 비용만 수만 달러/일에 달합니다. 최근 추론 모델(reasoning models)의 등장으로 이 비용은 더 올랐습니다. AI의 한계와 리스크 - 6가지 SETR은 현재 AI 시스템의 핵심 리스크를 다음과 같이 정리합니다. 여기에 과신(overtrust) 문제도 추가됩니다. AI 코딩 어시스턴트를 사용한 개발자들이 더 취약한 코드를 작성했으면서도, 본인은 더 안전하다고 믿었다는 연구 결과가 있습니다. Over the Horizon AI 에이전트 - 기대와 현실 OpenAI는 ...

안녕하세요! 슈크림빵입니다. 오늘은 "The brain might not create consciousness after all"이라는 과학 기사를 가져와봤습니다. 아무리 읽어도 저한테는 좀 어려운 내용이었는데요, 그래서 오히려 더 흥미로워서 정리해보고 싶었어요. 과학과 철학이 한끗 차이 같으면서도, 읽다 보면 생각이 꼬리에 꼬리를 물게 되더라고요. 우리는 보통 의식을 뇌의 산물이라고 생각하죠. 뉴런이 발화하고, 시냅스가 연결되고, 전기 신호가 오가는 복잡한 과정 끝에 '나'라는 경험이 만들어진다고요. AI 분야에서도 이 가정은 꽤 중요합니다. 충분히 복잡한 신경망을 만들면 언젠가 의식이 생겨날 수 있다는 기대가 바로 여기서 출발하거든요. 그런데 만약 그 전제 자체가 틀렸다면요? 2026년 4월, 포르투갈 포르투에서 열리는 BIAL 재단의 제15회 "Behind and Beyond the Brain" 심포지엄에서, 현대 의식 연구의 대표적 인물인 크리스토프 코흐가 도발적인 질문을 던집니다. 의식은 뇌가 '만들어내는' 것이 아니라, 이 우주에 처음부터 내재된 근본적 속성일 수 있다는 거예요. 만약 이게 사실이라면, "AI가 의식을 가질 수 있는가"라는 질문의 프레임 자체가 달라져야 할지도 모릅니다. 아래는 이 발표를 다룬 ScienceDaily 기사의 번역입니다. 신경과학이 아직 건너지 못한 강, 그리고 그 강 너머에서 다시 불려 나오는 오래된 철학적 직관에 대한 이야기를 함께 읽어보시죠! 뇌가 ...

안녕하세요. 슈크림빵입니다~! 정말 주말을 마무리하고 있을 때쯤, 좋은 강의를 만난 것 같아 밸리에 공유하고 싶어 가져왔습니다~ 스탠퍼드 대학교 컴퓨터과학과 교수였던 존 아우스터하우트(John Ousterhout)는 운영체제 수업에서 매주 금요일 수업 마지막 5분에 "Thoughts for the Weekend"라는 짧은 인생 철학 강연을 했습니다. 기술이 아닌 삶에 대한 이야기를 학생들에게 들려주는 시리즈인데요, 은퇴 후 최근 이 강연들을 유튜브에 올렸습니다. 그중 하나인 "Do Your Disasters Make You Weaker or Stronger?"의 내용을 정리해 보았습니다. 영상 출처: 링크 질문 "당신이 겪은 재난은 당신을 약하게 만드는가, 강하게 만드는가?" 누구에게나 재난은 찾아옵니다. 친구의 죽음, 실패한 결혼, 회사의 파산. 문제는 그때 어떻게 반응하느냐입니다. 사람들이 흔히 빠지는 함정 재난 이후 많은 사람들이 두려움에 사로잡혀 "좋은 것을 성취하기"보다 "나쁜 것을 피하는 데" 집착하게 됩니다. 위축되고 자신감이 떨어지거나, 반대로 책임을 부정하고 남 탓을 하게 되기도 합니다 두 경우 모두 경험에서 아무것도 배우지 못하고, 결과적으로 더 약해져서 또 다른 나쁜 일에 취약해지는 악순환에 빠집니다. 대표적인 예로, 정말 끔찍하게 끝난 관계를 겪고 나면 사람들은 다시 누군가를 신뢰하기 어려워하고, 그러면 새로운 관계를 맺는 것도 힘들어집니다. Ousterhout의 주장: 더 강해지는 길을 찾아라 끔찍한 일을 겪었을 때 그 경험으로부터 더 강해질 방법을 찾아야 한다는 것이 이 강연의 메시지입니다. 고통은 매우 효과적인 스승이 될 수 있고, ...

안녕하세요. 슈크림빵입니다! 저번 글에서 Story Generation 연구를 진행했다고 언급했더니, 이에 대해 더 이야기해달라는 분이 계셔서 간단히 풀어보려 합니다. 석사 시절 인턴으로 참여했던 연구인데, 벌써 2년 전 이야기라 내용이 많이 낡기도 했고 대외비에 걸쳐 있는 부분도 있어서, 제 연구 자체를 공개하기보다는 소설 생성이 어떤 방향으로 연구되고 있는지를 소개하는 방식으로 써보려 해요. 원래 저는 석사 때 멀티모달(Multi-modal) 쪽을 주로 연구했고, 여기에 Prompt Learning이 섞여 있었습니다. 그래서 인턴에서 받은 주제도 자연스럽게 LLM과 Prompt Engineering을 활용해 생성의 질을 최대한 높이는 것이었어요. 자연어 처리 경험이 거의 없었음에도, 제가 ‘문예창작’ 출신이라는 이유로 인문학적 감각을 가진 엔지니어라는 포지션으로 운 좋게 참여할 수 있었습니다. 약 6개월간 진행한 연구에서 제 목표는 영어로 2,000단어 이상의 장편 스토리를 생성하되, 최대한 창의적이고 흥미로운 서사를 만들어내는 것이었습니다. 지금은 LLM이 긴 글도 제법 잘 쓰지만, 당시는 GPT-4o가 막 나왔을 시기였고, 장편 스토리를 맡기면 결말까지 쓰지 않고 ...으로 흐지부지 끝내는 경우가 꽤 많았습니다. 아마 학습 데이터 특성상 영화나 책의 줄거리가 결말 없이 짧게 요약된 형태로 많이 포함되어 있다 보니, 그 패턴을 따라가는 경향이 있었던 것 같아요. 그리고 생성 연구에는 항상 따라오는 숙제가 있습니다. 바로 “어떻게 평가할 것인가?” 입니다. 이미지든, 텍스트든, 오디오든, 비디오든 생성 결과물이 나왔을 때 무엇이 더 잘 만들어진 건지 판단할 기준 자체가 명확하지 않습니다. 예를 들어 제가 “슈크림빵을 먹는 햄스터” 이미지를 만들어달라고 했을 때, 두 모델이 모두 그럴듯한 결과를 내놓았다고 해봅시다. 여러분은 어느 쪽에 더 높은 점수를 주시겠어요? 이처럼 정답이 없는 창작물의 품질을 어떻게 수치화할 것인가? 이것이 생성 연구의 난제 중 하나입니다. 소설 생성도 마찬가지고요. 그럼 본론으로 들어가서, 현재 소설 생성 연구가 어떤 방향으로 흘러가고 있는지 살펴보겠습니다. 그래서, AI는 소설을 어떻게 쓰나요? 여러분도 한 번쯤 ChatGPT한테 “소설 써줘”라고 해보신 적 있으신가요? 처음엔 꽤 그럴듯하게 시작하다가, 어느 순간 갑자기 “그렇게 둘은 행복하게 살았습니다” 하고 마무리되거나, 아니면 흐지부지 끝나버리는 경험. 저도 연구하면서...

안녕하세요, 슈크림빵입니다. 벚꽃이 활짝 만개했는데요! 이제 전국적으로 거의 다 핀 것 같아서 봄내음이 물씬입니다~🌸 AI는 안 죽고 저만 죽었지만요... 오늘은 The IT department: Where AI goes to die의 글을 소개 시켜드리려고 하는데, 전문은 The Economist 유료 콘텐츠라 접근이 안 되실 거예요! 그래서 저도 링크드인이나 여러 글을 찾아 종합해서 이 글을 정리해보았습니다! 기사 저자는 Ethan Mollick (에단 몰릭)으로 펜실베이니아대학교 와튼스쿨(Wharton School) 경영학과 부교수로, AI·혁신·창업을 연구하는 사람이라 합니다. 기사 개요 제목 자체가 주장입니다. AI가 IT 부서로 가면 "죽는다"는 것이 그의 주장입니다. 1. AI는 "이상한(weird)" 기술이다 AI 중에서 자연어처리(NLP)를 담당하는 거대 언어 모델(LLM)은 본질적으로 '다음에 올 단어를 예측하는 시스템'입니다. 그런데 이 단순한 원리로 작동하는 모델이 코드를 쓰고, 전략을 조언하고, 사람의 감정에 공감하는 응답까지 내놓는다는 것 자체가 기이한 일입니다. Mollick은 이런 AI의 능력 경계를 "jagged frontier(울퉁불퉁한 경계)"라고 부릅니다. 예상 밖의 영역에서는 놀랍도록 뛰어나면서, 당연히 잘할 것 같은 영역에서는 허무하게 실패하는 — 매끈하지 않고 들쭉날쭉한 능력의 지형을 뜻합니다. 2. 기업들이 AI의 이상함을 제거(de-weirding)하려 한다 AI는 이상한 기술입니다. 어디에 위험이 있고 어디에 기회가 있는지, 써봐야 비로소 알 수 있습니다. 그런데 많은 기업이 AI를 마치 ERP나 이메일 시스템 같은 평범한 IT 도구처럼 다루려 합니다. Mollick은 이렇게 AI의 이상함을 지워버리는 것(de-weirding)이 기업과 직원 모두에게 나쁜 결과를 낳는다고 ...