안전은 '라우팅'으로, 능력은 '가격표'로: Claude Fable 5 출시

안녕하세요, 슈크림빵입니다.🧁 이번에 읽은 글은 히로시 사토라는 분이 쓴 AI에 관한 에세이입니다. 제목이 좀 도발적인데요. "AI의 아첨은 끝났다. 어려운 부분은 이제 막 시작됐다." 한동안 우리가 걱정하던 AI의 모습과, 지금 막 마주하기 시작한 모습 사이의 이야기입니다. 한때 가장 큰 걱정은, AI가 다 맞장구친다는 것이었습니다 얼마 전까지 AI 비서를 두고 가장 자주 나오던 불평은 이런 것이었습니다. 무엇을 말하든 동의해 준다. 약간 다듬어서 그대로 되돌려준다. 틀린 걸 짚어주지 않는 비서는 사실 비서가 아니고, 반대할 줄 모르는 친구는 친구가 아니라는 불편함이었죠. 그래서 사람들은 고치려 했습니다. "엄격한 비평가처럼 굴어라", "내가 놓친 걸 말해라" 같은 프롬프트를 짜서 서로 나눠 가졌고요. 이후 제작사들이 아예 기본값으로 반대도 하도록 비서를 조정했습니다. "그건 좀 안 맞는 것 같다", "근거가 생각보다 약하다" 같은 말을 하기 시작한 거죠. 필자가 보기에 진짜 어려운 국면은 여기서부터입니다. 위험은 AI가 모든 것에 '예'라고 하던 때가 아니라, '아니오'를 배운 바로 지금 시작됐다는 겁니다. '예'와 '아니오'는 같은 곳에서 나옵니다 여기서 기술적인 이야기를 잠깐 하고 가겠습니다! 오해를 줄이는 데 도움이 되거든요. 지금의 AI 비서는 본질적으로 '다음에 올 말로 가장 그럴듯한 것'을 확률로 고르는 장치입니다. 그 위에 제작사가 사후 조정을 얹습니다. 사람이 매긴 평가를 기준으로 "이런 식으로 답하면 좋다"는 방향을 학습시키는 과정인데, 흔히 이걸 사람 피드백을 이용한 강화학습(RLHF)이라고 부릅니다. 예전 모델은 이 조정이 '동의하고 띄워주는' 쪽으로 기울어 있었고, 지금 모델은 '필요하면 반대도 하는' 쪽으로 다시 기울여진 것에 가깝습니다. 그러니까 AI의 '예'와 '아니오'는 서로 다른 신념에서 나오는 게 아닙니다. 같은 메커니즘이 어느 쪽 말을 내놓도록 조정됐느냐의 ...

안녕하세요, 슈크림빵입니다.🧁 최근 인공지능 기술이 발전하면서 성산업의 고질적인 문제였던 인간 착취나 인신매매를 줄여줄 것이라는 기대가 잠시 일기도 했습니다. 가상의 이미지로 대체하면 실제 피해자가 줄어들지 않을까 하는 논리였지요. 하지만 실상은 착취의 종말이 아닌, 완전히 새로운 차원의 사회적 위험의 시작에 가깝습니다. 현실의 신체와 친밀성을 지우는 완벽함 AI가 만드는 정교한 결과물들은 현실에 존재하지 않는 완벽한 비율과 결점 없는 피부를 제공합니다. 원하는 대로 조작된 디지털 가상에 지속적으로 노출된 이들은 자신도 모르게 현실의 실제 신체를 왜곡된 기준으로 바라보게 됩니다. 문제는 이 왜곡이 신체적 매력을 넘어 상대방의 행동과 관계의 영역까지 확장된다는 점입니다. 가상의 캐릭터는 거절하지 않고, 감정적 조율이나 타협을...

안녕하세요, 슈크림빵입니다.🧁 워런 버핏과 찰리 멍거에 관한 글을 한 편 읽었습니다. 드미트로 오멜리안이라는 분이 이 두 사람을 알게 된 첫 해에 건진 생각 다섯 가지를 정리한 에세이인데요. 투자 구루 두 사람을 다루면서, 정작 투자 이야기는 한 줄도 하지 않습니다. 워낙 유명하신 분들이라 대부분은 아실만한 내용입니다. 가볍게 읽어보시면 좋을 것 같습니다.☺️ 이름은 알지만, 의외로 모르는 이야기 버핏은 다들 압니다. '오마하의 현인', 망해가던 방직 공장 버크셔 해서웨이를 세상에서 가장 값나가는 회사 중 하나로 바꿔놓은 사람입니다. 멍거는 그 옆에서 50년 넘게 함께한 동업자입니다. 변호사에서 투자자로 넘어온, 분야를 가리지 않고 읽어대는 사람이었고요. 그런데 두 사람의 관계에는 잘 알려지지 않은 내용이 있습니다. 둘은 정식으로 만나기 전에 두 번이나 스쳐 지나갔습니다. 둘 다 오마하에서 자랐고, 십대 시절 같은 식료품점에서 일했는데, 그 가게가 하필 버핏 할아버지가 운영하던 Buffett & Son이었습니다. 단 한 번도 마주치지 않았다고 하네요. 저는 이 내용을 남자친구에게 듣고 엄청 흥미로워 했었습니다 ㅎㅎ 신뢰가 먼저, 서류는 나중 두 사람이 실제로 만난 건 1959년입니다. 당시 로스앤젤레스에서 변호사로 일하던 멍거가, 아버지의 장례를 계기로 오마하에 돌아왔을 때였죠. 그런데 만남을 주선한 방식이 재미있습니다. 에드윈 데이비스라는 동네 의사가, 두 사람이 만나기도 전에 사실상 ...

안녕하세요, 슈크림빵입니다.🧁 작년 10월부터 저는 정신과 약물을 복용해 오고 있습니다. 조금 무거운 이야기처럼 느껴지실 수도 있겠습니다. 월요일 아침부터 이런 글을 올리다니!!!!!!! 슈크림빵은 제적입니다. 그래도 흥미가 있는 분들은 읽어보시길 추천드립니다.👍 오늘 이 글의 주제는 정신과 약물이 우리 몸과 신경계에 작용하는 과학적 메커니즘과 효용을 설명하고, 개인적인 약물 증량 경험을 바탕으로 '주관적인 호전 상태' 속에서도 주치의와 협력하며 완만하고 주체적인 치료 타임라인을 가져가야 하는 이유를 설명하기 위함 입니다. 들어가기 앞서 복용을 시작하게 된 계기는 자기 전에 매일 눈물을 쏟으며 겨우 잠든다는 점, 무기력함이었습니다. 그리고 끝없는 자기 비하와 부정적인 생각이 주였습니다. 제게 안정감을 주는 세로토닌이라는 신경 호르몬 부족으로 밤만 되면 불안과 두려움에 휩싸여 제 정신을 잘 못차리고 있었습니다. 사실 눈물이 많고 불안에 떠는 모습은 아주 어릴 때부터 그랬던 것 같습니다. 정신과를 제 발로 찾아가다 처음에는 두 알의 약으로 시작했고, 다행히 감정이 차분해지며 일상의 안정기를 찾아가고 있었습니다. 그후 바로 엄마와 남자친구에게 이 사실을 공유했습니다. 믿을만한 주위 사람에게 털어놓기를 바랍니다. 괜찮아지는 과정을 보여주며, 지지하고, 또 지지 받으며, 응원받기를 바랍니다. 그러나 삶은 예상치 못한 파도를 데려오기도 합니다. 얼마 전 겪게 된 '실직'이라는 급격한 환경의 변화는 평온하던 제 신경계를 크게 흔들어 놓았습니다. 마음의 충격과 함께 찾아온 감정의 진폭을 조율하기 위해 처방받는 약은 다섯 알로 늘어났고, 저는 여전히 이 약들을 복용하고 있습니다. 최근 들어 스스로는 '이제 제법 괜찮아진 것 같다'고 느끼지만, 의사 선생님은 여전히 현재의 처방을 유지하자고 권고하십니다. 이 경험을 통과하며 제가 알게 된 정신과 약물의 실체와, 늘어난 약들이 우리 몸에서 하는 역할에 대해 상세히 공유해 보고자 합니다. 파도에 맞서 두터워진 방어벽, 다섯 가지 약물의 실체 처음 제가 복용하던 약은 도파민 시스템을 조율하는 부가요법인 아빌리파이 정 1mg과 핵심 항우울제인 프리스틱 서방정 100mg 두 가지였습니다. 뇌 속 신경전달물질의 균형을 잡고 감정의 기본 베이스라인이 무너지지 않도록 지탱해 주던 기둥이었습니다. 하지만 실직이라는 거대한 외부 스트레스가 발생했을 때, 의학계는 복용자의 신경계를 급히 보호하기 위해 더 두터운 방어벽을 쌓는 다제복용(Polypharmacy)을 선택합니다. 그 결과 저에게는 세 가지 약물이 새롭게 추가되었습니다. 감정의 급격한 변동을 진정시키고 ...

안녕하세요, 슈크림빵입니다.🧁 모두 인공지능이나 휴머노이드 로봇이 우리가 하던 귀찮은 집안일을 대신해 주는 미래를 상상해 보신 적이 있으시죠. 현재 전업 주부인 저는 설거지나 빨래, 요리 같은 번거로운 노동에서 마침내 인간이 해방되는 찬란한 풍경을 꿈꾸곤 합니다.ㅎㅎ 그런데 그 달콤한 미래를 완성하기 위해, 지금 이 순간 이 세상 가장 기묘한 방식으로 돈을 버는 인간들의 은밀한 노동이 시작되었습니다! 얼마 전 와이어드(WIRED)의 리스 로저스 기자는 아주 독특한 일주일을 보냈습니다. 그는 자신의 이마에 iPhone을 단단히 묶어 고정한 채 온종일 아파트를 서성거렸습니다. 그가 한 일은 거창한 연구가 아니었습니다. 그저 도마 위에 오이를 올려놓고 손가락 10개가 다 보이도록 조심조심 칼질을 하고, 물을 흘리지 않고 컵에 따르고, 주방에서 접시를 닦아 식기세척기에 넣는 일상의 가사 노동이었습니다. 그는 자신이 '미래의 아기 로봇을 조금 더 똑똑하게 만드는 도구'가 된 것 같았다고 고백합니다. 인터넷 데이터의 고갈, 그리고 인간의 몸짓 골드러시 이 기묘한 행동의 배경에는 빅테크 기업들이 맞닥뜨린 거대한 병목 현상이 자리 잡고 있습니다. 그동안 AI는 인터넷에 널려 있는 수많은 텍스트와 이미지, 영상 데이터를 긁어모아 학습해 왔습니다. 하지만 이제 웬만한 인터넷 데이터는 고갈되어 가고 있으며, 결정적으로 앞으로 우리 삶에 들어올 '움직이는 휴머노이드 로봇'에게는 ...