챗봇이 갑자기 다정해진 이유

안녕하세요, 슈크림빵입니다. 원래 새 모델이 나오면 더 좋아졌다, 더 멍청해졌다 등 반응이 항상 갈리기 마련이죠. 저는 아직 4.6을 쓰고 있습니다. 이 글을 포스팅 해본 후 4.7을 한 번 써볼까 해요. Boris는 Opus 4.7이 단순히 더 똑똑해진 게 아니라 새로운 작업 방식이 필요하다고 강조하면서, 며칠간 써보며 터득한 팁들을 공유했어요. 그가 연결한 공식 블로그의 핵심 내용은 다음과 같습니다. 1. "페어 프로그래머"가 아니라 "유능한 엔지니어에게 위임"하듯 써라 첫 턴에 과제를 명확히 지정하는 게 중요합니다. 의도, 제약 조건, 완료 기준, 관련 파일 위치를 포함한 잘 정리된 설명이 있으면 훨씬 좋은 결과가 나옵니다. 여러 턴에 걸쳐 모호하게 조금씩 전달하면 토큰 효율도, 품질도 떨어지는 경향이 있습니다. 2. 유저 인터랙션 횟수를 줄여라 유저 턴마다 추론 오버헤드가 추가됩니다. 질문을 묶어서 보내고, 모델이 계속 진행할 수 있는 맥락을 한 번에 주는 것이 좋습니다. 3. Auto 모드 ...

안녕하세요, 슈크림빵입니다. 여러분들은 챗봇에게 친절하신가요? 저는 제 남자친구랑 저만 봐도 대하는 태도가 정말 다르더라구요. 예를 들면, 남친은 다 명령조로 얘기하는 경우가 있고, 저는 당연히 천사처럼 대해줍니다! ^^ 저희 친언니 같은 경우엔 이름까지 지어주고 굉장히 친밀하게 지냅니다. 왜 이름을 안 붙여줬냐는 그녀의 물음에 그녀는 과하다고 생각했었죠... 어렸을 때, 양파한테 좋은 말을 해주면 더 쑥쑥 잘 크고, 나쁜 말을 하면 잘 안 큰다는 엉터리 논리의 멍청한 실험을 시켰던 것이 기억이 나는데요. AI한테 진짜 좋은 말을 하면 더 잘할까요? 최근 Platformer에 흥미로운 기사가 하나 올라왔습니다. 제목부터 눈길을 끌어요. "챗봇에게 친절하게 대해야 하는 과학적 근거." 일단 양파 실험보다는 좀 더 과학적인 이야기입니다. AI 안에서 "감정 비슷한 것"을 찾았다 Anthropic이라는 회사의 연구팀이 한 일은 이렇습니다. AI 모델에게 슬픈 이야기, 무서운 이야기, 기쁜 이야기를 보여주면서, 모델 내부에서 어떤 뉴런이 반응하는지를 추적한 거예요. 그렇게 해서 각 감정마다 고유한 신경 활동 패턴, 이른바 "감정 벡터"를 찾아냈습니다. 중요한 건 이 벡터를 인위적으로 모델에 주입하면 행동이 실제로 바뀌었다는 거예요. "차분함" 벡터를 넣으면 더 차분하게 행동하고, "절망" 벡터를 넣으면 더 절망적으로 행동하더라는 겁니다. 물론 이 연구를 이끈 Jack ...

안녕하세요, 슈크림빵입니다. 오늘 따스한 햇살과 바람에 몸과 마음이 녹아 밸리에 거의 살다시피 하고 있습니다. 그래도 글 작성 5개면 저를 구독해주신 분들에게 이미 많은 테러가 되지 않을까 싶어 오늘의 마지막 글입니다🥺 그리고 투자 관련 커뮤니티에서 투자 빼고 온갖 얘기를 다하는 저를 구독해주셔서 다시 한 번 감사드립니다. 이번 기사 제목은 "Inside the Dirty, Dystopian World of AI Data Centers."로 꽤 자극적인 제목이죠. 하지만 기사 자체는 현장 취재를 바탕으로, AI 시대의 에너지 문제를 여러 각도에서 짚고 있어서 흥미롭게 읽었습니다. 우리가 ChatGPT에 질문을 던지고, 이미지를 생성하고, 코드를 짜달라고 할 때, 그 뒤에서는 거대한 데이터센터가 돌아가고 있습니다. 기자 Matteo Wong은 그 현장을 직접 찾아갑니다. 일론 머스크의 xAI가 멤피스에 세운 '콜로서스'라는 데이터센터, 버지니아 라우던 카운티의 데이터센터 밀집 지역, 그리고 스리마일섬 원자력 발전소까지. 기사에서 가장 인상적인 부분은 숫자들입니다. 콜로서스 하나가 연간 미국 가정 20만 채 분량의 전기를 쓴다는 것, 2030년이면 미국 데이터센터가 중공업 전체보다 많은 전력을 소비하리라는 전망, ChatGPT 출시 이후 빅테크 기업들의 자본 지출이 6,000억 달러를 넘었다는 사실. 이 숫자들을 보면, AI가 순수하게 '디지털'한 기술이 아니라는 걸 실감하게 됩니다. AI는 물리적 인프라 위에서 ...

안녕하세요, 슈크림빵입니다! 오늘은 어쩐지 글쓰기를 달리고 있군요. The Atlantic에 실린 Meghan O'Rourke의 "The Paradox of Modern Medicine" 기사를 읽었습니다. Alexandra Sifferlin의 신간 The Elusive Body를 리뷰한 글인데요, 현대 의학의 진단 위기를 다루고 있어요. 읽다 보니 자연스럽게 AI 이야기로 흘러가길래, 그 부분을 중심으로 생각을 좀 정리해 봤습니다! 진단이라는 행위의 무게 기사는 의대생 Diana Cejas의 이야기로 시작합니다. 목에 혹이 생겼는데, 여러 의사가 양성이라고 안심시켰고, 결국 암이었어요. 의학 분야에서 가장 최악인 False Negative의 사례이네요. 남의 병을 진단하는 법을 배우던 사람이 정작 자기 병은 제대로 진단받지 못한 거죠. 미국에서 매년 약 1,300만 명이 오진을 경험하고, 75만 명 이상이 오진의 결과로 영구 장애를 입거나 사망한다고 합니다. 놀라운 건 이 문제가 희귀 질환에서 벌어지는 게 아니라는 점이에요. 진단 오류의 65~80%가 의사와 환자 사이의 소통 단절에서 비롯됩니다. 충분히 듣지 않고, 다시 생각하지 않는 것. "AI가 해결해 줄 거야"라는 기대 자연스럽게 떠오르는 생각이 있죠. AI가 이 문제를 풀어줄 수 있지 않을까? 실제로 AI가 할 수 있는 일은 있습니다. 진료 내용을 자동으로 기록해서 의사가 컴퓨터 화면 대신 환자를 볼 수 있게 해주는 것입니다. 의사의 무의식적 편향을 보정해 주는 것. UC 버클리의 Ziad Obermeyer 연구팀은 AI가 이런 편향 교정에 실제로 도움이 된다는 걸 보여줬어요. 여기까지만 보면 꽤 ...

안녕하세요, 슈크림빵입니다! 아침 햇살 받으며 선선한 바람까지 들어오니 천국이 따로 없네요. 저는 거실의 큰 창 앞에 원목 테이블을 붙여두었는데, 그곳이 제 작업 공간이랍니다. 회사에선 무조건 큰 모니터, 그것도 더블로, 키보드도 스플릿 키보드에 버티컬 마우스 등 장비빨로 일하던 사람인데, 지금은 맥북 하나 펼쳐놓고 앞의 화분과 쌓아둔 책 바라보며 하는게 즐겁네요 ㅎㅎ 이번 글은 AI로 인해 대량으로 해고했던 회사들이 현재 어떻게 지내고 있는지? 에 대한 내용입니다. AI가 사람을 대체한다고요? 그래서 어떻게 됐냐면요 2024년, 실리콘밸리의 공식은 단순했습니다. 사람을 자르고, 챗봇을 넣고, 비용을 줄인다. CEO들은 방송에 나와 감원 숫자를 자랑했고, 월스트리트는 박수를 쳤죠. 그로부터 2년. 지금 벌어지고 있는 일은 꽤 다릅니다. 오늘 Stephen Klein이 쓴 "The Great AI Layoff Boomerang"이라는 글을 읽었는데, 제목 그대로 '부메랑'이에요. AI로 사람을 대체하겠다며 대량 해고를 밀어붙인 기업들이, 지금 조용히 사람을 다시 뽑고 있다는 이야기입니다. 숫자부터 보면 좀 놀랍습니다. Forrester의 2026년 보고서에 따르면, AI 기반 해고를 단행한 기업의 55%가 후회하고 있대요. 절반은 이미 재고용을 시작했고, 해고된 역할의 절반 이상이 6개월도 안 돼서 다시 채워졌습니다. IBM 조사에서는 AI 프로젝트의 75%가 약속한 ROI를 달성하지 못했다는 결과도 나왔어요. 대표적인 사례가 Klarna예요. Klarna는 2005년 스웨덴에서 시작한 핀테크 회사입니다. 쉽게 말하면 "선구매 후결제(BNPL, Buy Now Pay Later)" 서비스의 대표주자입니다. 온라인 쇼핑할 때 물건을 먼저 받고 나중에 무이자 할부로 나눠 갚는 방식이에요. 미국에서도 젊은층에서 엄청난 인기라는 걸 봤었습니다. 2023년에 OpenAI와 손잡고 고객 서비스 인력을 챗봇으로 교체하면서 직원을 5,500명에서 3,400명으로 줄였습니다. 1천만 달러를 절감했다고 자축했죠. 그런데 고객 불만이 쏟아지기 시작했어요. 챗봇은 ...