딥러닝을 '이해'한다는 건 어떤 의미일까

안녕하세요, 슈크림빵입니다! 오늘 해커 뉴스를 살펴보다가 Gary Marcus의 글 하나가 눈에 들어왔습니다. 제목이 "Peak Absurdity, Part II"으로 직역하면 '절정의 황당함, 2편' 쯤 되겠네요. AI 회의론자로 유명한 인지과학자가, 자기가 예전에 경고했던 일이 정말로 벌어지고 있다며 쓴 후속편이에요. 결론부터 스포하자면 저자의 "내 말이 맞지?" 라는 글입니다. 이야기는 2024년 9월로 거슬러 올라갑니다. 당시 Oracle이 OpenAI와 역대 최대급 클라우드 계약을 맺었다는 소식이 전해졌어요. 5년간 약 3,000억 달러, 4.5기가와트의 전력 용량이 필요한 규모로 후버댐 두 개 이상이 만들어내는 전력 정도인데요. 시장은 열광했고, Oracle 주가는 하루 만에 43%나 치솟았습니다. 래리 엘리슨의 자산은 1,000억 달러 넘게 불어나 약 4,000억 달러에 달했고요. Marcus는 그때 "Peak Bubble"이라는 글을 썼어요. 요지는 간단했습니다. OpenAI한테는 3,000억 달러가 없다. 그 근처의 돈도 없다. 스스로의 전망으로도 2030년까지 흑자 전환이 안 된다. Oracle도 계약을 이행할 칩이 없고, 칩을 살 현금도 없다. 그리고 이렇게 덧붙였죠. "만약 Oracle이 실제로 3,000억 달러를 받아낸다면, 나는 진심으로 놀랄 것이다." 자, 그로부터 약 1년 반이 지난 지금은 어떨까요? Oracle 주가는 그때의 308달러에서 지금 163달러 근처까지 내려왔습니다. 52주 최고가였던 346달러에서 보면 반토막이 넘는 ...

안녕하세요, 슈크림빵입니다. 요즘 AI로 글을 쓰는 건 정말 쉬워졌습니다. 저도 밸리에 글을 쓸 때, 초고도 도움 받고, 퇴고도 도움 받습니다. 블로그 글, 이메일, 보고서는 물론이고 책 한 권 분량도 뚝딱 만들어내죠. 그런데 최근 Rebecca Ackermann의 기자가 생각보다 단순하지 않은 문제가 있다는 걸 느끼고 기사를 쓰게 됩니다. 기사의 출발점은 출판계의 최근 논란이에요. 한 소설이 AI로 쓴 것 아니냐는 의혹에 미국 출판이 취소됐고, Grammarly는 유명 작가들의 문체를 동의 없이 LLM에 학습시켜 코칭 기능을 만들었다가 철회했어요. AI가 글쓰기 영역에 깊숙이 들어오면서 생기는 마찰들이죠. 이런 상황에서 필자가 주목한 건 의외로 '고스트라이팅'이에요. 저는 처음 들어보는 단어였는데요. 고스트라이팅은 전문 작가가 다른 사람의 이름으로 글을 대신 써주는 일로, 유명인 회고록에서 특히 흔합니다. 마라이어 캐리의 회고록은 공동 저자를 밝히고도 뉴욕타임스 1위에 올랐고,...

안녕하세요, 슈크림빵입니다! 저는 제가 대학교를 졸업할 때까지, AI가 보편화되지 않아서 정말 다행이라 생각하는데요. 요즘 교육이 앞으로 어떻게 될 것인지, 이제 학교 공부는 선택 사항이 될 것인지에 대한 관심이 많이 높다고 생각합니다. 이 내용을 다룬 기사 내용을 빌려 정리해보았습니다! 한 대학생이 글쓰기 센터에 에세이 도움을 받으러 갔는데, 튜터가 과제 내용을 AI에 붙여넣더니 나온 결과물을 건네주고 세션을 끝냈대요. 그 학생이 남긴 말이 인상적이었어요. "내가 왜 여기 있는 거지?" Lila Shroff 기자가 쓴 이 기사는, AI가 학교 과제를 완전히 자동화하는 현실을 정면으로 다루고 있습니다. 가장 눈길을 끈 건 "Einstein"이라는 봇이에요. 학생이 Canvas(학습관리 플랫폼) 계정 정보만 넘기면, 이 봇이 알아서 새 과제를 확인하고, 강의를 듣고, 레포트를 쓰고, 토론 게시판에 참여하고, 퀴즈를 풀고, 기한 내에 ...

안녕하세요, 슈크림빵입니다.🍩 오늘도 날씨가 맑네요. 저는 새벽 5시에 일어나서 사부작 거리다가 결국 오전에 기절해서 낮잠 2시간을 자고 난 후 개운하게 일어났습니다 ㅎㅎ 백수는 자유로운 영혼이죠 오늘은 "The Strange Origin of AI’s ‘Reasoning’ Abilities"라는 기사를 읽고 내용을 다뤄보겠습니다! AI가 '생각한다'는 말, 어디서 시작됐을까 요즘 AI 뉴스를 보면 "추론 모델", "사고하는 AI" 같은 표현이 자연스럽게 등장해요. OpenAI는 자사 모델이 "답하기 전에 생각한다"고 했고, Google도 "사고를 보여줄 수 있다"고 광고했죠. 이런 말을 듣다 보면 AI가 정말 무언가를 곰곰이 생각하는 것 같은 느낌이 드는데요. The Atlantic에 실린 Alex Reisner의 최근 기사가 이 "생각하는 AI"의 기원을 추적하는데, 그 출발점이 좀 의외예요. 2020년 여름, 4chan의 게이머들이 AI Dungeon이라는 텍스트 RPG를 가지고 놀고 있었어요. 이 게임은 OpenAI의 GPT-3로 구동됐는데, ChatGPT 출시보다 2년도 더 전이라 모델이 간단한 산수조차 자주 틀리던 시절이었거든요. 그런데 게이머들이 게임 속 캐릭터에게 수학 문제를 "단계별로 설명하면서" 풀어보라고 시키자, 갑자기 정답률이 올라간 거예요. 심지어 ...

안녕하세요, 슈크림빵입니다. 클로드가 아프다니🥹 제 마음도 같이 아프네요. 어젯밤 클로드가 장애가 발생하면서 불안정해졌다는데요. 저는 요즘 개발을 안 하니 제 클로드는 쿨쿨따리였답니다. 아무튼, 요즘 개발자 커뮤니티에서 "Claude 품질이 떨어졌다"는 이야기가 심심치 않게 들려오고 있는데요. 사실은 민원 접수처럼 밀려오는 수준이죠. IT 매체 The Register가 이 흐름을 정리한 기사를 냈길래, 주요 내용을 공유해 봅니다. 장애부터 시작된 이야기 4월 13일, Claude.ai와 Claude Code에서 약 48분간 주요 장애가 발생했습니다. 에러율이 급등하면서 서비스 이용이 불안정했는데요. 사실 이 장애 자체보다 더 주목할 만한 건, 최근 몇 달간 쌓여온 품질 불만의 흐름입니다. 소셜미디어와 GitHub에 올라온 이슈들을 보면, "Claude가 예전 같지 않다"는 목소리가 꾸준히 늘어나고 있거든요. Anthropic이 피크 시간대 사용량을 조절하기 위해 용량 관리에 나서면서, 체감 품질이 떨어졌다는 의견도 있습니다. ...