안녕하세요, 저는 슈크림빵이고요. 우리는 밸리에서 만났습니다. 연휴의 첫 시작을 알리는 금요일 밤, 자정이 넘어 토요일에 뵙네요. 오늘 리뷰할 글은 〈The Singularity will Occur on a Tuesday〉 (2026년 2월 10일) 입니다. 이 글을 쓴 주인공은 캠 페더슨(Cam Pedersen)입니다. 샌프란시스코 엔지니어로, Municipal Robotics에서 로봇을 만드는 사람입니다. 블로그에 이런 기술 글을 자주 쓰고, 본인을 Engineer 또는 Optimist라고 소개합니다. 살짝 미쳐 있는 엔지니어 같죠. 특이점은 수학, 과학에서 많이 쓰이는 개념인데 저도 로봇쪽 AI Engineer라서 특이점을 듣고 괜히 반가웠습니다. 실제로 로그를 디버깅하다 보면 설명할 수 없는 에러가 많고 싱귤러리티(특이점)이 많이 발생하거든요. 본문 내용은 AI 관련 종사자가 아니라면 이해하기에 좀 어려울 수 있습니다. 수식도 많고, 개념이 익숙지 않을 거예요. 그냥 슥슥 넘겨가며 읽으셔도 좋습니다! 일부러 원글의 분위기를 살리기 위해 번역해서 거친 문체 그대로 가져왔어요! "Wait, the singularity is just humans freaking out?" "Always has been." 샌프란시스코의 모든 사람들이 특이점 얘기를 하고 있다. 저녁 파티에서, 커피숍에서, 왠지 모르게 애쉬튼 커처가 나타난 OpenClaw 밋업에서. 대화는 늘 같은 패턴이다: 누군가는 곧 온다 하고, 누군가는 허황된 소리라 하고, 아무도 숫자는 없다. 질문 자체가 잘못됐다. 만약 뭔가가 가속하고 있다면(그리고 측정상 실제로 그렇다면), 흥미로운 질문은 '올 것이냐'가 아니다. '언제'냐다. 그리고 가속하고 있다면, 정확히 언제인지 계산할 수 있다. 나는 AI 발전의 실제 지표 5가지를 수집해서, 각각에 독립적으로 쌍곡선 모델을 피팅하고, 극점을 향해 진짜 곡률을 보이는 지표를 찾았다. 날짜는 밀리초 단위까지 정밀하다. 카운트다운이 있다. (이게 미친 짓인 건 안다. 어쨌든 하는 거다.) 데이터 5가지 지표를 골랐는데, 내가 인류학적 중요성이라 부르는 기준으로 선정했다 (여기서 anthropic은 "인간에 관한"이라는 그리스어 의미다. 그 회사 말고. 뭐 데이터셋에 의심스러울 정도로 자주 등장하긴 하지만): MMLU 점수: 언어 모델용 수능시험 달러당 토큰 수: 지능의 비용 붕괴 (로그 변환함. 제미나이 플래시 이상치가 150배 범위를 차지해서) 프론티어 출시 간격: "뭐야 이게" 순간들 사이의 줄어드는 간격 arXiv "emergent" 논문 수 (최근 12개월): 밈적으로 측정한 분야의 흥분도 코파일럿 코드 점유율: AI가 작성한 코드 비율 왜 쌍곡선인가 대부분의 사람들은 AI를 지수함수로 외삽한다. 틀렸다! 지수함수 는 t → ∞일 때만 무한대에 접근한다. 영원히 기다려야 한다. 말 그대로. 우리가 원하는 건 유한한 시간에 무한대에 도달하는 함수다. 그게 특이점의 정의다. 수직 점근선, 수학이 깨지는 지점: 일 때, 분모가 0으로 간다. 버그가 아니다. 기능이다. 다항식 성장()은 유한 시간에 절대 무한대에 도달하지 않는다. 열적 죽음까지 기다려도 은 여전히 유한하다. 다항식은 AGI가 "수십 년 후"라고 생각하는 사람들을 위한 거다. 지수 성장은 에서 무한대에 도달한다. 기술적으로는 특이점이지만, 무한히 인내심 있는 특이점이다. 무어의 법칙은 지수적이었다. 우리는 더 이상 무어의 법칙 위에 있지 않다. 쌍곡선 성장은 성장하는 것이 자기 자신의 성장을 가속할 때 일어나는 일이다. 더 나은 AI → 더 나은 AI 연구 도구 → 더 나은 AI → 더 나은 도구. 초선형 역학의 양의 피드백. 특이점은 실재하고 유한하다. 피팅 절차는 간단한데, 이게 좀 걱정되어야 한다. 모델은 각 지표에 별도의 쌍곡선을 피팅한다: 각 계열 는 자체 스케일 와 오프셋 를 가진다. 특이점 시간 는 공유된다. MMLU 점수와 달러당 토큰 수는 같은 y축에 있을 이유가 없지만, 극점이 언제인지에는 동의할 수 있다. 각 후보 에 대해, 계열별 피팅은 와 에 대해 선형이다. 질문은: 어떤 가 쌍곡선을 가장 잘 피팅하는가? 아무도 말해주지 않는 특이점 피팅의 진실이 있다: 대부분의 지표에는 실제로 특이점이 없다. 모든 계열에 걸쳐 총 RSS를 최소화하면, 최적 는 항상 무한대다. 멀리 있는 쌍곡선은 직선으로 퇴화하고, 직선은 노이즈 있는 데이터를 그럭저럭 잘 피팅한다. "특이점 날짜"는 검색 경계로 설정한 게 ...

AI가 인류를 지배하는 '터미네이터' 시나리오보다, 자기 생각에 꼬여서 사고를 치는 '사고뭉치' 시나리오가 더 현실적이라면? 들어가며: 우리가 상상한 AI의 반란 vs. 현실 AI가 인간보다 똑똑해질 것이라는 뉴스를 접할 때면, '터미네이터'처럼 AI가 명확한 목적을 가지고 인류를 위협하는 시나리오를 떠올리곤 하시죠? 하지만 올해 머신러닝 최고 권위 학회 중 하나인 ICLR 2026에 정식 발표된 논문 "The Hot Mess of AI" (Hägele, Gema, Sleight, Perez & Sohl-Dickstein, 2026)은 아주 다른 미래를 예고합니다. 저자 중에는 Anthropic(Claude를 만든 회사)과 EPFL, 에든버러 대학 소속 연구자들이 포함되어 있는데, 이 팀이 수십억 파라미터 규모의 최신 프론티어 모델들을 대상으로 수만 번의 실험을 돌린 결과라서 흥미롭게 보았습니다. 핵심 결론: AI가 단순히 "나쁜 마음"을 먹는 게 아니라, 사실은 자기 추론에 매몰되어 갈팡질팡하는 '허당(Hot Mess)'이 되어가고 있다. AI 리스크의 본질이 달라지면, AI 안전 기술의 방향도 바뀔 것으로 예상이 되는데 논문 내용을 하나씩 살펴보겠습니다.😃 1. AI의 두 가지 실수: "고집불통" vs "우왕좌왕" 논문의 프레임워크는 단순합니다! 통계학의 편향-분산 분해(Bias-Variance Decomposition)를 AI 오류 분석에 적용한 것이죠. 이 공식을 AI 실패에 대입하면, 두 가지 완전히 다른 유형의 실패가 드러납니다. 편향(Bias) — "목표는 확실한데 틀렸어" AI가 의도와는 다른 잘못된 목표를 아주 일관되게 추구하는 상태입니다. 10번 물어보면 10번 다 똑같이 틀린 답(예: 정답이 A인데 매번 B)을 내놓죠. 논문에서는 이를 '체계적 오정렬(Systematic Misalignment)'이라 부릅니다. 과녁의 엉뚱한 곳을 계속해서 정확히 맞히는 명사수 같은 상태예요. 우리가 흔히 두려워하는 "AI의 반란"은 바로 이 경우입니다. 분산(Variance) — "나도 내가 뭘 하는지 몰라" AI가 그때그때 다른 대답을 내놓으며 횡설수설하는 상태입니다. 첫 번째는 A, 두 번째는 C, 세 번째는 D... 심지어 문제를 풀 때마다 엉뚱한 논리를 대며 답변을 바꿉니다. 논문에서는 이를 '인코히어런스(Incoherence)' 혹은 '핫 메스(Hot Mess)'라고 명명했습니다. 그리고 연구팀은 핵심 지표로 인코히어런스 = Variance / Total Error를 정의합니다. 이 값이 1에 가까울수록 "AI의 실수 대부분이 일관성 없는 혼란에서 온다"는 뜻이고, 0에 가까우면 "실수는 하지만 적어도 일관성은 있다"는 의미입니다. 전체 오류율이 낮은 '똑똑한' 모델이라 할지라도, 이 값이 높으면 그 실패는 본질적으로 예측 불가능하다는 뜻이죠. 논문의 Figure 1에서 이 개념을 직관적으로 보여줍니다. 코딩 에이전트에게 기능 구현을 요청했더니, 첫 번째 시도에서는 "thinking... tool request failed... actually let me solve this other thing... Error: File not found"라며 실패하다가, 아무것도 바꾸지 않고 단순히 다시 시도(resampling)했을 뿐인데 "All tests passed"로 성공하는 장면이 등장합니다. 같은 모델, 같은 문제인데 시드(seed)만 바꿨을 뿐 결과가 완전히 달라지는 것이죠. 2. 오래 생각할수록 더 갈팡질팡한다: 추론 길이와 혼돈의 관계 "AI야, 차근차근 생각해봐(Chain of Thought)." 요즘 추론 모델(Reasoning Model)들의 핵심 전략인 긴 추론이 오히려 함정이 될 수 있다는 실험 결과가 이 논문의 백미입니다. (저도 항상 "천천히 단계별로 생각해봐"라며 추론을 유도했는데 말이죠...🤐) 연구팀은 현존하는 최고 수준의 AI 모델들 — Claude...

출처: https://www.anthropic.com/news/claude-is-a-space-to-think 저는 다양한 LLM 유료 서비스(Gemini Pro, Claude Pro, Perpelxity Pro)를 이용 중이지만, 많은 분들이 그렇듯 목적에 따라 각각 다르게 사용하고 계실 거라 생각합니다. 며칠 전, 올라온 글을 읽고 흥미로워서 가져와 봤습니다. 실제로 모델의 성능을 평가하는데는 다양한 벤치마크와 척도가 있습니다. 상용 + 오픈 모델 기준으로 종합적인 리더보드 순위는 이렇습니다. 더 다양한 지표가 궁금하시다면 이 출처로 가보세요 (링크) Anthropic(Claude의 개발사)은 블로그에 "Claude는 사고를 위한 공간입니다 (Claude is a space to think)"라는 글을 발표했습니다. 이 내용은 단순히 "광고를 안 하겠다"는 약속을 넘어, 내가 쓰는 AI가 나를 돕는 도구인가, 아니면 나에게 물건을 팔려는 영업사원인가에 대한 근본적인 질문을 담고 있습니다. 1. Anthropic의 선언: "Claude에는 광고가 없습니다" Anthropic은 Claude를 설계할 때부터 '광고'와 'AI 대화'는 공존할 수 없다고 결론지었습니다. 주요 이유는 다음과 같습니다. 사고의 방해 금지: Claude는 사용자가 깊이 고민하고 업무를 처리하는 '깨끗한 노트북'이나 '빈 칠판' 같은 공간이어야 합니다. 광고는 이 집중력을 깨뜨립니다. 이해관계의 충돌 방지: 예를 들어 사용자가 "잠이 안 와요"라고 했을 때, 광고 없는 AI는 원인을 함께 고민하지만, 광고 기반 AI는 은근슬쩍 특정 '수면제'나 '침대'를 추천하도록 유도될 수 있습니다. 민감한 개인정보 보호: AI와의 대화는 검색보다 훨씬 더 개인적이고 깊은 내용을 담습니다. 이 데이터를 광고주에게 활용하거나 광고를 노출하는 것은 부적절합니다. 수익 모델의 명확화: Anthropic은 사용자의 데이터를 파는 대신, 기업 계약과 유료 구독(Claude Pro)을 통해 수익을 창출하고 이를 다시 모델 개선에 투자합니다. 2. 사용자들의 시선 ...