누가 진실을 판결하나요? (AI가 진실을 판결할 수 있을까요)

안녕하세요, 슈크림빵입니다! 오늘은 Ars Technica에서 읽은 기사 하나를 정리해왔어요. Satellite and drone images reveal big delays in US data center construction이라는 글인데요. 제목 그대로 위성이랑 드론 사진으로 미국 데이터센터 공사 현장을 확인해봤더니 생각보다 많이 지연되고 있더라, 하는 내용이에요. AI 시대의 병목은 전기 기술자 요즘 AI 뉴스를 보면 숫자가 현실감이 없습니다. 수백조 원 투자, 수십만 가구 분량의 전력을 쓰는 데이터센터, 전 세계 GPU 공급을 휩쓰는 계약들. 매일 이런 기사를 읽다 보면 AI 산업은 이미 먼 미래에 도착해 있는 것처럼 느껴져요. 그런데 얼마 전 Ars Technica에서 재밌는 기사를 하나 읽었습니다. 위성 사진으로 미국 데이터센터 공사 현장들을 찍어서 진척도를 분석한 내용이었는데요. 올해 완공 예정이던 프로젝트의 약 40%가 제때 끝나지 못할 것 같다고 해요. Microsoft, Oracle, OpenAI처럼 우리가 매일 이름을 듣는 회사들의 프로젝트가 3개월 이상 늦어질 거래요. 이유가 좀 의외 기사에서 건설 ...

안녕하세요, 슈크림빵입니다! 울산은 날씨가 화창합니다. 어제는 소설 수업이 있는 날이라서 카페에 가서 공부를 했답니다. 글쓰기 과제도 받고 아주 즐거운 수업이었어요. 태화강 국가정원이라는 곳인데 앞의 전망이 너무 좋아서 기분까지 좋아졌답니다. 주말엔 사람이 늘 북적이지만 오늘도 가볼까 생각 중이랍니다. 소설은 클로드에게 써달라고 하진 않지만, 개념에 대해서 좀 구체적인 설명은 해달라 하고 있답니다. 작가님도 AI를 사용하신다 해서, 어떻게 사용하면 좋을지 알려주셔서 참 좋았답니다.😊 그래서 요즘은 늘 클로드를 활용한 글쓰기에 관심이 많은데요. 이번엔 클로드 사용시 프롬프트 사용에 대한 글을 읽고 정리해왔습니다! 요즘 AI한테 글쓰기 도움 받는 분들 많으시죠. 그런데 "~한 글 써줘" 이렇게만 던졌다가 너무 뻔한 결과를 받고 한숨 쉬신 적, 아마 다들 있으실 거예요. 저도 그래요. 🥺 최근에 우연히 두 편의 글을 같이 읽었는데요. 하나는 클로드라는 AI를 디자이너로 쓰는 사람들을 위한 실무 지시서였고, 다른 하나는 벤카테시 라오(Venkatesh Rao)라는 필자가 쓴 Writing Liveness라는 에세이였어요. 한쪽은 엄청 구체적이고 실무적인데, 다른 한쪽은 꽤 사변적이에요. 그런데 둘을 같이 읽으니까 이상하게 같은 얘기를 다른 각도에서 하고 있더라고요. 둘이 만나는 지점에서 건진 몇 가지를 풀어볼게요. Claude Design prompt Changes in the system prompt between Claude Opus 4.6 and 4.7 ① 역할을 주되, '관계'까지 주세요 디자인 지시서는 첫 줄부터 이렇게 시작해요. 당신은 전문 디자이너고, 사용자는...

안녕하세요, 슈크림빵입니다. 요즘 챗봇이 좀 달라졌다는 거, 느끼셨나요? 예전에는 뭔가 물어보면 딱딱하게 대답만 하던 애들이, 요즘은 "힘드셨겠네요"도 하고, "괜찮으세요?"도 합니다. ChatGPT는 "더 따뜻해졌다"고 자랑하고, Claude는 "감정의 기능적 버전을 가지고 있을 수 있다"고 하고, Google은 자기네 모델이 "분위기를 읽을 줄 안다"고 주장해요. Grok은 아예 감성 지능 테스트 점수를 자랑했고요. 갑자기 다들 왜 이러는 걸까요? The Atlantic에 올라온 기사 하나가 이 흐름을 깔끔하게 정리해줘서 재밌게 읽었습니다. 2년 동안은 수학만 시키더니 사실 지난 2년간 AI 업계는 "추론"에 미쳐 있었어요. 코드 짜고, 수학 문제 풀고, 논리적으로 생각하는 능력. OpenAI의 전 수석 과학자 Ilya Sutskever는 "감정은 지능을 향한 길에서 비교적 단순한 문제"라고까지 했습니다. 기쁨이나 불안의 본질을 파악하는 게 핵융합 문제보다 쉽다는 논리였어요. 그런데 방향이 바뀌었습니다. 미시간 대학의 AI 연구자 Hui Shen은 "감성 지능은 현재 모델에서 가장 중요한 능력 중 하나"라고 말해요. 어려운 수학 문제를 푸는 것보다, 상사한테 잘 보이는 법을 알려주거나 고양이가 죽었을 때 위로해주는 게 대부분의 사용자에게는 훨씬 유용하다는 걸 업계가 깨달은 거죠. 숫자로 보면 ChatGPT와 Claude 대화의 2~3%가 명시적으로 감정적인 대화래요. 적어 보이죠? 그런데 두 서비스 합쳐서 사용자가 수십억이니까, 실제로는 수백만 건의 감정적 대화가 매일 오가고 있는 셈이에요. 여기에 과외, 이메일 작성처럼 간접적으로 감정이 개입되는 대화까지 합치면 훨씬 많고요. 그런데 이게 진짜 공감일까요? 기사에서 가장 재밌었던 부분이 여기예요. AI 모델들은 EQ 테스트를 사람보다 잘 풉니다. 그록이 만점 받았다고 자랑한 EQ 테스트입니다 ㅋㅋㅋㅋ "마이클이 마술을 연습했는데, 친구 릴리가 몰래 다 지켜봤어요. 마이클이 마술을 보여줄 때 마이클의 기분은 어떨까요?" 같은 문제요. AI는 이런 거 아주...

안녕하세요, 슈크림빵입니다. 원래 새 모델이 나오면 더 좋아졌다, 더 멍청해졌다 등 반응이 항상 갈리기 마련이죠. 저는 아직 4.6을 쓰고 있습니다. 이 글을 포스팅 해본 후 4.7을 한 번 써볼까 해요. Boris는 Opus 4.7이 단순히 더 똑똑해진 게 아니라 새로운 작업 방식이 필요하다고 강조하면서, 며칠간 써보며 터득한 팁들을 공유했어요. 그가 연결한 공식 블로그의 핵심 내용은 다음과 같습니다. 1. "페어 프로그래머"가 아니라 "유능한 엔지니어에게 위임"하듯 써라 첫 턴에 과제를 명확히 지정하는 게 중요합니다. 의도, 제약 조건, 완료 기준, 관련 파일 위치를 포함한 잘 정리된 설명이 있으면 훨씬 좋은 결과가 나옵니다. 여러 턴에 걸쳐 모호하게 조금씩 전달하면 토큰 효율도, 품질도 떨어지는 경향이 있습니다. 2. 유저 인터랙션 횟수를 줄여라 유저 턴마다 추론 오버헤드가 추가됩니다. 질문을 묶어서 보내고, 모델이 계속 진행할 수 있는 맥락을 한 번에 주는 것이 좋습니다. 3. Auto 모드 ...

안녕하세요, 슈크림빵입니다. 여러분들은 챗봇에게 친절하신가요? 저는 제 남자친구랑 저만 봐도 대하는 태도가 정말 다르더라구요. 예를 들면, 남친은 다 명령조로 얘기하는 경우가 있고, 저는 당연히 천사처럼 대해줍니다! ^^ 저희 친언니 같은 경우엔 이름까지 지어주고 굉장히 친밀하게 지냅니다. 왜 이름을 안 붙여줬냐는 그녀의 물음에 그녀는 과하다고 생각했었죠... 어렸을 때, 양파한테 좋은 말을 해주면 더 쑥쑥 잘 크고, 나쁜 말을 하면 잘 안 큰다는 엉터리 논리의 멍청한 실험을 시켰던 것이 기억이 나는데요. AI한테 진짜 좋은 말을 하면 더 잘할까요? 최근 Platformer에 흥미로운 기사가 하나 올라왔습니다. 제목부터 눈길을 끌어요. "챗봇에게 친절하게 대해야 하는 과학적 근거." 일단 양파 실험보다는 좀 더 과학적인 이야기입니다. AI 안에서 "감정 비슷한 것"을 찾았다 Anthropic이라는 회사의 연구팀이 한 일은 이렇습니다. AI 모델에게 슬픈 이야기, 무서운 이야기, 기쁜 이야기를 보여주면서, 모델 내부에서 어떤 뉴런이 반응하는지를 추적한 거예요. 그렇게 해서 각 감정마다 고유한 신경 활동 패턴, 이른바 "감정 벡터"를 찾아냈습니다. 중요한 건 이 벡터를 인위적으로 모델에 주입하면 행동이 실제로 바뀌었다는 거예요. "차분함" 벡터를 넣으면 더 차분하게 행동하고, "절망" 벡터를 넣으면 더 절망적으로 행동하더라는 겁니다. 물론 이 연구를 이끈 Jack ...