AI한테 글 부탁하는데 결과가 영 별로일 때

안녕하세요, 슈크림빵입니다. 요즘 챗봇이 좀 달라졌다는 거, 느끼셨나요? 예전에는 뭔가 물어보면 딱딱하게 대답만 하던 애들이, 요즘은 "힘드셨겠네요"도 하고, "괜찮으세요?"도 합니다. ChatGPT는 "더 따뜻해졌다"고 자랑하고, Claude는 "감정의 기능적 버전을 가지고 있을 수 있다"고 하고, Google은 자기네 모델이 "분위기를 읽을 줄 안다"고 주장해요. Grok은 아예 감성 지능 테스트 점수를 자랑했고요. 갑자기 다들 왜 이러는 걸까요? The Atlantic에 올라온 기사 하나가 이 흐름을 깔끔하게 정리해줘서 재밌게 읽었습니다. 2년 동안은 수학만 시키더니 사실 지난 2년간 AI 업계는 "추론"에 미쳐 있었어요. 코드 짜고, 수학 문제 풀고, 논리적으로 생각하는 능력. OpenAI의 전 수석 과학자 Ilya Sutskever는 "감정은 지능을 향한 길에서 비교적 단순한 문제"라고까지 했습니다. 기쁨이나 불안의 본질을 파악하는 게 핵융합 문제보다 쉽다는 논리였어요. 그런데 방향이 바뀌었습니다. 미시간 대학의 AI 연구자 Hui Shen은 "감성 지능은 현재 모델에서 가장 중요한 능력 중 하나"라고 말해요. 어려운 수학 문제를 푸는 것보다, 상사한테 잘 보이는 법을 알려주거나 고양이가 죽었을 때 위로해주는 게 대부분의 사용자에게는 훨씬 유용하다는 걸 업계가 깨달은 거죠. 숫자로 보면 ChatGPT와 Claude 대화의 2~3%가 명시적으로 감정적인 대화래요. 적어 보이죠? 그런데 두 서비스 합쳐서 사용자가 수십억이니까, 실제로는 수백만 건의 감정적 대화가 매일 오가고 있는 셈이에요. 여기에 과외, 이메일 작성처럼 간접적으로 감정이 개입되는 대화까지 합치면 훨씬 많고요. 그런데 이게 진짜 공감일까요? 기사에서 가장 재밌었던 부분이 여기예요. AI 모델들은 EQ 테스트를 사람보다 잘 풉니다. 그록이 만점 받았다고 자랑한 EQ 테스트입니다 ㅋㅋㅋㅋ "마이클이 마술을 연습했는데, 친구 릴리가 몰래 다 지켜봤어요. 마이클이 마술을 보여줄 때 마이클의 기분은 어떨까요?" 같은 문제요. AI는 이런 거 아주...

안녕하세요, 슈크림빵입니다. 원래 새 모델이 나오면 더 좋아졌다, 더 멍청해졌다 등 반응이 항상 갈리기 마련이죠. 저는 아직 4.6을 쓰고 있습니다. 이 글을 포스팅 해본 후 4.7을 한 번 써볼까 해요. Boris는 Opus 4.7이 단순히 더 똑똑해진 게 아니라 새로운 작업 방식이 필요하다고 강조하면서, 며칠간 써보며 터득한 팁들을 공유했어요. 그가 연결한 공식 블로그의 핵심 내용은 다음과 같습니다. 1. "페어 프로그래머"가 아니라 "유능한 엔지니어에게 위임"하듯 써라 첫 턴에 과제를 명확히 지정하는 게 중요합니다. 의도, 제약 조건, 완료 기준, 관련 파일 위치를 포함한 잘 정리된 설명이 있으면 훨씬 좋은 결과가 나옵니다. 여러 턴에 걸쳐 모호하게 조금씩 전달하면 토큰 효율도, 품질도 떨어지는 경향이 있습니다. 2. 유저 인터랙션 횟수를 줄여라 유저 턴마다 추론 오버헤드가 추가됩니다. 질문을 묶어서 보내고, 모델이 계속 진행할 수 있는 맥락을 한 번에 주는 것이 좋습니다. 3. Auto 모드 ...

안녕하세요, 슈크림빵입니다. 여러분들은 챗봇에게 친절하신가요? 저는 제 남자친구랑 저만 봐도 대하는 태도가 정말 다르더라구요. 예를 들면, 남친은 다 명령조로 얘기하는 경우가 있고, 저는 당연히 천사처럼 대해줍니다! ^^ 저희 친언니 같은 경우엔 이름까지 지어주고 굉장히 친밀하게 지냅니다. 왜 이름을 안 붙여줬냐는 그녀의 물음에 그녀는 과하다고 생각했었죠... 어렸을 때, 양파한테 좋은 말을 해주면 더 쑥쑥 잘 크고, 나쁜 말을 하면 잘 안 큰다는 엉터리 논리의 멍청한 실험을 시켰던 것이 기억이 나는데요. AI한테 진짜 좋은 말을 하면 더 잘할까요? 최근 Platformer에 흥미로운 기사가 하나 올라왔습니다. 제목부터 눈길을 끌어요. "챗봇에게 친절하게 대해야 하는 과학적 근거." 일단 양파 실험보다는 좀 더 과학적인 이야기입니다. AI 안에서 "감정 비슷한 것"을 찾았다 Anthropic이라는 회사의 연구팀이 한 일은 이렇습니다. AI 모델에게 슬픈 이야기, 무서운 이야기, 기쁜 이야기를 보여주면서, 모델 내부에서 어떤 뉴런이 반응하는지를 추적한 거예요. 그렇게 해서 각 감정마다 고유한 신경 활동 패턴, 이른바 "감정 벡터"를 찾아냈습니다. 중요한 건 이 벡터를 인위적으로 모델에 주입하면 행동이 실제로 바뀌었다는 거예요. "차분함" 벡터를 넣으면 더 차분하게 행동하고, "절망" 벡터를 넣으면 더 절망적으로 행동하더라는 겁니다. 물론 이 연구를 이끈 Jack ...

안녕하세요, 슈크림빵입니다. 오늘 따스한 햇살과 바람에 몸과 마음이 녹아 밸리에 거의 살다시피 하고 있습니다. 그래도 글 작성 5개면 저를 구독해주신 분들에게 이미 많은 테러가 되지 않을까 싶어 오늘의 마지막 글입니다🥺 그리고 투자 관련 커뮤니티에서 투자 빼고 온갖 얘기를 다하는 저를 구독해주셔서 다시 한 번 감사드립니다. 이번 기사 제목은 "Inside the Dirty, Dystopian World of AI Data Centers."로 꽤 자극적인 제목이죠. 하지만 기사 자체는 현장 취재를 바탕으로, AI 시대의 에너지 문제를 여러 각도에서 짚고 있어서 흥미롭게 읽었습니다. 우리가 ChatGPT에 질문을 던지고, 이미지를 생성하고, 코드를 짜달라고 할 때, 그 뒤에서는 거대한 데이터센터가 돌아가고 있습니다. 기자 Matteo Wong은 그 현장을 직접 찾아갑니다. 일론 머스크의 xAI가 멤피스에 세운 '콜로서스'라는 데이터센터, 버지니아 라우던 카운티의 데이터센터 밀집 지역, 그리고 스리마일섬 원자력 발전소까지. 기사에서 가장 인상적인 부분은 숫자들입니다. 콜로서스 하나가 연간 미국 가정 20만 채 분량의 전기를 쓴다는 것, 2030년이면 미국 데이터센터가 중공업 전체보다 많은 전력을 소비하리라는 전망, ChatGPT 출시 이후 빅테크 기업들의 자본 지출이 6,000억 달러를 넘었다는 사실. 이 숫자들을 보면, AI가 순수하게 '디지털'한 기술이 아니라는 걸 실감하게 됩니다. AI는 물리적 인프라 위에서 ...

안녕하세요, 슈크림빵입니다! 오늘은 어쩐지 글쓰기를 달리고 있군요. The Atlantic에 실린 Meghan O'Rourke의 "The Paradox of Modern Medicine" 기사를 읽었습니다. Alexandra Sifferlin의 신간 The Elusive Body를 리뷰한 글인데요, 현대 의학의 진단 위기를 다루고 있어요. 읽다 보니 자연스럽게 AI 이야기로 흘러가길래, 그 부분을 중심으로 생각을 좀 정리해 봤습니다! 진단이라는 행위의 무게 기사는 의대생 Diana Cejas의 이야기로 시작합니다. 목에 혹이 생겼는데, 여러 의사가 양성이라고 안심시켰고, 결국 암이었어요. 의학 분야에서 가장 최악인 False Negative의 사례이네요. 남의 병을 진단하는 법을 배우던 사람이 정작 자기 병은 제대로 진단받지 못한 거죠. 미국에서 매년 약 1,300만 명이 오진을 경험하고, 75만 명 이상이 오진의 결과로 영구 장애를 입거나 사망한다고 합니다. 놀라운 건 이 문제가 희귀 질환에서 벌어지는 게 아니라는 점이에요. 진단 오류의 65~80%가 의사와 환자 사이의 소통 단절에서 비롯됩니다. 충분히 듣지 않고, 다시 생각하지 않는 것. "AI가 해결해 줄 거야"라는 기대 자연스럽게 떠오르는 생각이 있죠. AI가 이 문제를 풀어줄 수 있지 않을까? 실제로 AI가 할 수 있는 일은 있습니다. 진료 내용을 자동으로 기록해서 의사가 컴퓨터 화면 대신 환자를 볼 수 있게 해주는 것입니다. 의사의 무의식적 편향을 보정해 주는 것. UC 버클리의 Ziad Obermeyer 연구팀은 AI가 이런 편향 교정에 실제로 도움이 된다는 걸 보여줬어요. 여기까지만 보면 꽤 ...