인공지능이 하이픈(-)을 좋아하는 이유는 무엇일까요?

안녕하세요, 슈크림빵입니다. 🧁 이번 주 WWDC에서 공개된 새 Siri 이야기입니다. WSJ의 키노트 정리, 체험기, 그리고 AI & Business 뉴스레터까지 세 편을 읽었는데, 제품 발표 뒤에 메모리라는 아주 평범한 부품이 서 있었습니다. 마지막 키노트, 새로운 Siri 6월 8일, Apple은 연례 개발자 콘퍼런스에서 AI 버전의 Siri를 공개했습니다. Tim Cook이 이번이 자신의 마지막 개발자 콘퍼런스라고 밝히고 기립박수를 받은 자리이기도 했습니다. 새 Siri는 Apple이 자체 개발에 거듭 실패한 끝에 Google의 Gemini 기술을 받아들여 만든 결과물입니다. 2년 전 약속했던 '완전히 새로운 Siri'가 이제야 도착한 셈인데, 시장의 반응은 미지근했습니다. 발표가 끝난 뒤 Apple 주가는 2% 가까이 하락했습니다. 강력해서가 아니라, 거기 있어서 시연 내용 자체는 다른 챗봇에서 본 것들과 크게 다르지 않습니다. 콘서트 티켓을 사고, 일정을 짜고, 사진 속 사물을 알아보고, 메시지를 뒤져 "언니가 추천한 팟캐스트"를 찾아냅니다. 카메라에는 Photo, Video와 나란히 Siri 모드가 생겨서, 책장을 비추며 다음에 읽을 책을 추천받을 수 있습니다. 직접 체험한 Nicole Nguyen 기자의 정리가 핵심을 짚습니다. Apple의 AI는 강력할 필요가 없고, 그냥 거기 있으면서 쓰기 쉬우면 ...

안녕하세요, 슈크림빵입니다. 🧁 어제(6월 9일) 공개된 Anthropic의 새 모델 이야기를 가져왔습니다. WSJ 기사와 Simon Willison의 첫 사용기를 함께 읽었는데, 두 글에서 기술 뉴스보다 가격표가 먼저 보이네요. 같은 모델, 두 개의 문 Anthropic은 이번에 모델 하나를 두 개의 이름으로 내놓았습니다. 하나는 일반 공개용 Claude Fable 5, 다른 하나는 승인된 기관만 쓸 수 있는 Claude Mythos 5입니다. 회사 설명에 따르면 두 모델의 능력은 같습니다. 차이는 하나, Fable에는 안전 분류기가 붙어 있다는 점입니다. Mythos는 지난 4월 발표 당시부터 일반 공개하기엔 너무 위험하다고 회사 스스로 판단했던 모델입니다. 미국 행정부가 AI 정책을 재검토하게 만들었고, 보안 업계에서는 이런 모델들이 쏟아내는 버그 리포트의 양을 걱정하는 목소리가 나왔습니다. 그 모델이 두 달 만에, 문을 나눠 단 채로 일반 사용자 앞에 도착한 겁니다. 안전을 '라우팅'으로 구현하다 가드레일이 작동하는 방식이 독특합니다. 생물무기나 소프트웨어 취약점 악용 같은 민감한 질문이 들어오면, Fable은 답변을 거부하는 대신 질문을 구형 모델인 Opus 4.8로 돌려보냅니다. 위험한 능력을 지운 게 아니라, 위험한 질문이 그 능력에 닿지 못하게...

안녕하세요, 슈크림빵입니다.🧁 이번에 읽은 글은 히로시 사토라는 분이 쓴 AI에 관한 에세이입니다. 제목이 좀 도발적인데요. "AI의 아첨은 끝났다. 어려운 부분은 이제 막 시작됐다." 한동안 우리가 걱정하던 AI의 모습과, 지금 막 마주하기 시작한 모습 사이의 이야기입니다. 한때 가장 큰 걱정은, AI가 다 맞장구친다는 것이었습니다 얼마 전까지 AI 비서를 두고 가장 자주 나오던 불평은 이런 것이었습니다. 무엇을 말하든 동의해 준다. 약간 다듬어서 그대로 되돌려준다. 틀린 걸 짚어주지 않는 비서는 사실 비서가 아니고, 반대할 줄 모르는 친구는 친구가 아니라는 불편함이었죠. 그래서 사람들은 고치려 했습니다. "엄격한 비평가처럼 굴어라", "내가 놓친 걸 말해라" 같은 프롬프트를 짜서 서로 나눠 가졌고요. 이후 제작사들이 아예 기본값으로 반대도 하도록 비서를 조정했습니다. "그건 좀 안 맞는 것 같다", "근거가 생각보다 약하다" 같은 말을 하기 시작한 거죠. 필자가 보기에 진짜 어려운 국면은 여기서부터입니다. 위험은 AI가 모든 것에 '예'라고 하던 때가 아니라, '아니오'를 배운 바로 지금 시작됐다는 겁니다. '예'와 '아니오'는 같은 곳에서 나옵니다 여기서 기술적인 이야기를 잠깐 하고 가겠습니다! 오해를 줄이는 데 도움이 되거든요. 지금의 AI 비서는 본질적으로 '다음에 올 말로 가장 그럴듯한 것'을 확률로 고르는 장치입니다. 그 위에 제작사가 사후 조정을 얹습니다. 사람이 매긴 평가를 기준으로 "이런 식으로 답하면 좋다"는 방향을 학습시키는 과정인데, 흔히 이걸 사람 피드백을 이용한 강화학습(RLHF)이라고 부릅니다. 예전 모델은 이 조정이 '동의하고 띄워주는' 쪽으로 기울어 있었고, 지금 모델은 '필요하면 반대도 하는' 쪽으로 다시 기울여진 것에 가깝습니다. 그러니까 AI의 '예'와 '아니오'는 서로 다른 신념에서 나오는 게 아닙니다. 같은 메커니즘이 어느 쪽 말을 내놓도록 조정됐느냐의 ...

안녕하세요, 슈크림빵입니다.🧁 최근 인공지능 기술이 발전하면서 성산업의 고질적인 문제였던 인간 착취나 인신매매를 줄여줄 것이라는 기대가 잠시 일기도 했습니다. 가상의 이미지로 대체하면 실제 피해자가 줄어들지 않을까 하는 논리였지요. 하지만 실상은 착취의 종말이 아닌, 완전히 새로운 차원의 사회적 위험의 시작에 가깝습니다. 현실의 신체와 친밀성을 지우는 완벽함 AI가 만드는 정교한 결과물들은 현실에 존재하지 않는 완벽한 비율과 결점 없는 피부를 제공합니다. 원하는 대로 조작된 디지털 가상에 지속적으로 노출된 이들은 자신도 모르게 현실의 실제 신체를 왜곡된 기준으로 바라보게 됩니다. 문제는 이 왜곡이 신체적 매력을 넘어 상대방의 행동과 관계의 영역까지 확장된다는 점입니다. 가상의 캐릭터는 거절하지 않고, 감정적 조율이나 타협을...

안녕하세요, 슈크림빵입니다.🧁 워런 버핏과 찰리 멍거에 관한 글을 한 편 읽었습니다. 드미트로 오멜리안이라는 분이 이 두 사람을 알게 된 첫 해에 건진 생각 다섯 가지를 정리한 에세이인데요. 투자 구루 두 사람을 다루면서, 정작 투자 이야기는 한 줄도 하지 않습니다. 워낙 유명하신 분들이라 대부분은 아실만한 내용입니다. 가볍게 읽어보시면 좋을 것 같습니다.☺️ 이름은 알지만, 의외로 모르는 이야기 버핏은 다들 압니다. '오마하의 현인', 망해가던 방직 공장 버크셔 해서웨이를 세상에서 가장 값나가는 회사 중 하나로 바꿔놓은 사람입니다. 멍거는 그 옆에서 50년 넘게 함께한 동업자입니다. 변호사에서 투자자로 넘어온, 분야를 가리지 않고 읽어대는 사람이었고요. 그런데 두 사람의 관계에는 잘 알려지지 않은 내용이 있습니다. 둘은 정식으로 만나기 전에 두 번이나 스쳐 지나갔습니다. 둘 다 오마하에서 자랐고, 십대 시절 같은 식료품점에서 일했는데, 그 가게가 하필 버핏 할아버지가 운영하던 Buffett & Son이었습니다. 단 한 번도 마주치지 않았다고 하네요. 저는 이 내용을 남자친구에게 듣고 엄청 흥미로워 했었습니다 ㅎㅎ 신뢰가 먼저, 서류는 나중 두 사람이 실제로 만난 건 1959년입니다. 당시 로스앤젤레스에서 변호사로 일하던 멍거가, 아버지의 장례를 계기로 오마하에 돌아왔을 때였죠. 그런데 만남을 주선한 방식이 재미있습니다. 에드윈 데이비스라는 동네 의사가, 두 사람이 만나기도 전에 사실상 ...