시리의 AI 혁신, '12GB 메모리'라는 물리적 장벽

안녕하세요, 슈크림빵입니다. 🧁 어제(6월 9일) 공개된 Anthropic의 새 모델 이야기를 가져왔습니다. WSJ 기사와 Simon Willison의 첫 사용기를 함께 읽었는데, 두 글에서 기술 뉴스보다 가격표가 먼저 보이네요. 같은 모델, 두 개의 문 Anthropic은 이번에 모델 하나를 두 개의 이름으로 내놓았습니다. 하나는 일반 공개용 Claude Fable 5, 다른 하나는 승인된 기관만 쓸 수 있는 Claude Mythos 5입니다. 회사 설명에 따르면 두 모델의 능력은 같습니다. 차이는 하나, Fable에는 안전 분류기가 붙어 있다는 점입니다. Mythos는 지난 4월 발표 당시부터 일반 공개하기엔 너무 위험하다고 회사 스스로 판단했던 모델입니다. 미국 행정부가 AI 정책을 재검토하게 만들었고, 보안 업계에서는 이런 모델들이 쏟아내는 버그 리포트의 양을 걱정하는 목소리가 나왔습니다. 그 모델이 두 달 만에, 문을 나눠 단 채로 일반 사용자 앞에 도착한 겁니다. 안전을 '라우팅'으로 구현하다 가드레일이 작동하는 방식이 독특합니다. 생물무기나 소프트웨어 취약점 악용 같은 민감한 질문이 들어오면, Fable은 답변을 거부하는 대신 질문을 구형 모델인 Opus 4.8로 돌려보냅니다. 위험한 능력을 지운 게 아니라, 위험한 질문이 그 능력에 닿지 못하게...

안녕하세요, 슈크림빵입니다.🧁 이번에 읽은 글은 히로시 사토라는 분이 쓴 AI에 관한 에세이입니다. 제목이 좀 도발적인데요. "AI의 아첨은 끝났다. 어려운 부분은 이제 막 시작됐다." 한동안 우리가 걱정하던 AI의 모습과, 지금 막 마주하기 시작한 모습 사이의 이야기입니다. 한때 가장 큰 걱정은, AI가 다 맞장구친다는 것이었습니다 얼마 전까지 AI 비서를 두고 가장 자주 나오던 불평은 이런 것이었습니다. 무엇을 말하든 동의해 준다. 약간 다듬어서 그대로 되돌려준다. 틀린 걸 짚어주지 않는 비서는 사실 비서가 아니고, 반대할 줄 모르는 친구는 친구가 아니라는 불편함이었죠. 그래서 사람들은 고치려 했습니다. "엄격한 비평가처럼 굴어라", "내가 놓친 걸 말해라" 같은 프롬프트를 짜서 서로 나눠 가졌고요. 이후 제작사들이 아예 기본값으로 반대도 하도록 비서를 조정했습니다. "그건 좀 안 맞는 것 같다", "근거가 생각보다 약하다" 같은 말을 하기 시작한 거죠. 필자가 보기에 진짜 어려운 국면은 여기서부터입니다. 위험은 AI가 모든 것에 '예'라고 하던 때가 아니라, '아니오'를 배운 바로 지금 시작됐다는 겁니다. '예'와 '아니오'는 같은 곳에서 나옵니다 여기서 기술적인 이야기를 잠깐 하고 가겠습니다! 오해를 줄이는 데 도움이 되거든요. 지금의 AI 비서는 본질적으로 '다음에 올 말로 가장 그럴듯한 것'을 확률로 고르는 장치입니다. 그 위에 제작사가 사후 조정을 얹습니다. 사람이 매긴 평가를 기준으로 "이런 식으로 답하면 좋다"는 방향을 학습시키는 과정인데, 흔히 이걸 사람 피드백을 이용한 강화학습(RLHF)이라고 부릅니다. 예전 모델은 이 조정이 '동의하고 띄워주는' 쪽으로 기울어 있었고, 지금 모델은 '필요하면 반대도 하는' 쪽으로 다시 기울여진 것에 가깝습니다. 그러니까 AI의 '예'와 '아니오'는 서로 다른 신념에서 나오는 게 아닙니다. 같은 메커니즘이 어느 쪽 말을 내놓도록 조정됐느냐의 ...

안녕하세요, 슈크림빵입니다.🧁 최근 인공지능 기술이 발전하면서 성산업의 고질적인 문제였던 인간 착취나 인신매매를 줄여줄 것이라는 기대가 잠시 일기도 했습니다. 가상의 이미지로 대체하면 실제 피해자가 줄어들지 않을까 하는 논리였지요. 하지만 실상은 착취의 종말이 아닌, 완전히 새로운 차원의 사회적 위험의 시작에 가깝습니다. 현실의 신체와 친밀성을 지우는 완벽함 AI가 만드는 정교한 결과물들은 현실에 존재하지 않는 완벽한 비율과 결점 없는 피부를 제공합니다. 원하는 대로 조작된 디지털 가상에 지속적으로 노출된 이들은 자신도 모르게 현실의 실제 신체를 왜곡된 기준으로 바라보게 됩니다. 문제는 이 왜곡이 신체적 매력을 넘어 상대방의 행동과 관계의 영역까지 확장된다는 점입니다. 가상의 캐릭터는 거절하지 않고, 감정적 조율이나 타협을...

안녕하세요, 슈크림빵입니다.🧁 워런 버핏과 찰리 멍거에 관한 글을 한 편 읽었습니다. 드미트로 오멜리안이라는 분이 이 두 사람을 알게 된 첫 해에 건진 생각 다섯 가지를 정리한 에세이인데요. 투자 구루 두 사람을 다루면서, 정작 투자 이야기는 한 줄도 하지 않습니다. 워낙 유명하신 분들이라 대부분은 아실만한 내용입니다. 가볍게 읽어보시면 좋을 것 같습니다.☺️ 이름은 알지만, 의외로 모르는 이야기 버핏은 다들 압니다. '오마하의 현인', 망해가던 방직 공장 버크셔 해서웨이를 세상에서 가장 값나가는 회사 중 하나로 바꿔놓은 사람입니다. 멍거는 그 옆에서 50년 넘게 함께한 동업자입니다. 변호사에서 투자자로 넘어온, 분야를 가리지 않고 읽어대는 사람이었고요. 그런데 두 사람의 관계에는 잘 알려지지 않은 내용이 있습니다. 둘은 정식으로 만나기 전에 두 번이나 스쳐 지나갔습니다. 둘 다 오마하에서 자랐고, 십대 시절 같은 식료품점에서 일했는데, 그 가게가 하필 버핏 할아버지가 운영하던 Buffett & Son이었습니다. 단 한 번도 마주치지 않았다고 하네요. 저는 이 내용을 남자친구에게 듣고 엄청 흥미로워 했었습니다 ㅎㅎ 신뢰가 먼저, 서류는 나중 두 사람이 실제로 만난 건 1959년입니다. 당시 로스앤젤레스에서 변호사로 일하던 멍거가, 아버지의 장례를 계기로 오마하에 돌아왔을 때였죠. 그런데 만남을 주선한 방식이 재미있습니다. 에드윈 데이비스라는 동네 의사가, 두 사람이 만나기도 전에 사실상 ...

안녕하세요, 슈크림빵입니다.🧁 작년 10월부터 저는 정신과 약물을 복용해 오고 있습니다. 조금 무거운 이야기처럼 느껴지실 수도 있겠습니다. 월요일 아침부터 이런 글을 올리다니!!!!!!! 슈크림빵은 제적입니다. 그래도 흥미가 있는 분들은 읽어보시길 추천드립니다.👍 오늘 이 글의 주제는 정신과 약물이 우리 몸과 신경계에 작용하는 과학적 메커니즘과 효용을 설명하고, 개인적인 약물 증량 경험을 바탕으로 '주관적인 호전 상태' 속에서도 주치의와 협력하며 완만하고 주체적인 치료 타임라인을 가져가야 하는 이유를 설명하기 위함 입니다. 들어가기 앞서 복용을 시작하게 된 계기는 자기 전에 매일 눈물을 쏟으며 겨우 잠든다는 점, 무기력함이었습니다. 그리고 끝없는 자기 비하와 부정적인 생각이 주였습니다. 제게 안정감을 주는 세로토닌이라는 신경 호르몬 부족으로 밤만 되면 불안과 두려움에 휩싸여 제 정신을 잘 못차리고 있었습니다. 사실 눈물이 많고 불안에 떠는 모습은 아주 어릴 때부터 그랬던 것 같습니다. 정신과를 제 발로 찾아가다 처음에는 두 알의 약으로 시작했고, 다행히 감정이 차분해지며 일상의 안정기를 찾아가고 있었습니다. 그후 바로 엄마와 남자친구에게 이 사실을 공유했습니다. 믿을만한 주위 사람에게 털어놓기를 바랍니다. 괜찮아지는 과정을 보여주며, 지지하고, 또 지지 받으며, 응원받기를 바랍니다. 그러나 삶은 예상치 못한 파도를 데려오기도 합니다. 얼마 전 겪게 된 '실직'이라는 급격한 환경의 변화는 평온하던 제 신경계를 크게 흔들어 놓았습니다. 마음의 충격과 함께 찾아온 감정의 진폭을 조율하기 위해 처방받는 약은 다섯 알로 늘어났고, 저는 여전히 이 약들을 복용하고 있습니다. 최근 들어 스스로는 '이제 제법 괜찮아진 것 같다'고 느끼지만, 의사 선생님은 여전히 현재의 처방을 유지하자고 권고하십니다. 이 경험을 통과하며 제가 알게 된 정신과 약물의 실체와, 늘어난 약들이 우리 몸에서 하는 역할에 대해 상세히 공유해 보고자 합니다. 파도에 맞서 두터워진 방어벽, 다섯 가지 약물의 실체 처음 제가 복용하던 약은 도파민 시스템을 조율하는 부가요법인 아빌리파이 정 1mg과 핵심 항우울제인 프리스틱 서방정 100mg 두 가지였습니다. 뇌 속 신경전달물질의 균형을 잡고 감정의 기본 베이스라인이 무너지지 않도록 지탱해 주던 기둥이었습니다. 하지만 실직이라는 거대한 외부 스트레스가 발생했을 때, 의학계는 복용자의 신경계를 급히 보호하기 위해 더 두터운 방어벽을 쌓는 다제복용(Polypharmacy)을 선택합니다. 그 결과 저에게는 세 가지 약물이 새롭게 추가되었습니다. 감정의 급격한 변동을 진정시키고 ...