[시리즈 연재] 최신 LLM 출시 관련 루머 정리 (Mythos, GPT-5.6, Gemini 3.5 Pro )

https://arxiv.org/abs/2510.01171 "VERBALIZED SAMPLING: HOW TO MITIGATE MODE COLLAPSE AND UNLOCK LLM DIVERSITY 언어화된 샘플링: 모드 완화 방법 LLM 다양성의 붕괴 및 활성화" 본문은 위 논문을 바탕으로 작성되었습니다. 논문 요약 AI에게 “해줘”라고 하면 가장 무난하고 익숙한 답이 나오지만, “가능한 답 여러 개와 각각의 확률을 말해줘”라고 시키면 모델 안에 남아 있던 다양한 가능성이 더 잘 나온다. 논문에서 이 방법을 Verbalized Sampling, VS라고 부름. 한국어로 풀면 “말로 표현하게 만든 샘플링” 더 쉽게 말하면 “AI에게 머릿속 후보 분포를 말로 꺼내게 하는 방법”임. Mode Collapse Mode collapse는 쉽게 말하면 AI 답변이 한쪽으로 쏠리는 현상임. 원래 언어모델은 다양한 답을 낼 수 있음. 예를 들어 “곰에 대한 짧은 이야기를 써줘”라고 하면 가능한 이야기는 많이 있음 곰이 숲에서 길을 잃는 이야기 곰이 세무사로 일하는 이야기 별자리 곰이 지구로 내려오는 이야기 동화풍 곰 이야기 호러 곰 이야기 그런데 실제 정렬된 모델은 자주 가장 무난한 패턴으로 출력하게 됨. 논문 3페이지의 “늙은 곰이 숲길을 걷는다” 같은 것이 반복 되는 것이 예시임 이 현상이 중요한 이유는 단순히 AI가 재미없다 같은 뜻이 아님. 논문은 mode collapse가 다음 영역에 치명적이라고 말함. 창작 글쓰기에서는 결과물이 비슷비슷해짐 대화 시뮬레이션에서는 사람처럼 다양한 반응을 재현하지 못함 설문·사회 시뮬레이션에서는 다양한 인간 의견을 제대로 반영하지 못함 합성 데이터 생성에서는 훈련 데이터가 편향되고 좁아짐 아이디어 발상에서는 늘 “안전하고 평범한 중간값” 만 나옴 왜 이런 현상이 발생하는가? 문제는 알고리즘만이 아니라 인간 선호 데이터 자체 보통 ChatGPT 같은 모델은 기본 언어모델을 만든 뒤 사람이 더 좋아하는 답을 고르게 해서 훈련함. 먼저 AI는 인터넷과 책 같은 엄청난 텍스트를 읽고 말하는 법을 배움 그다음 사람이 “이 답이 더 좋아”, “이 답이 더 도움이 돼”라고 평가함 모델은 사람이 선호한 답을 더 자주 내도록 조정 그런데 여기서 문제가 생김 사람은 실제로 낯설고 참신한 답보다 익숙하고 매끄럽고 예측 가능한 답을 더 좋은 답으로 평가하는 경향이 있음. 논문은 이것을 typicality bias(전형성 편향)이라고 부름. Typicality을 좀 더 풀어보면 전형적/익숙함/자주 본 느낌 이라 할 수 있음 논문에서는 인지심리학의 여러 개념을 가져옴. 단순노출 효과: 자주 본 것은 더 좋게 느껴진다. 가용성 휴리스틱: 쉽게 떠오르는 것이 더 그럴듯하게 느껴진다. 처리 유창성: 읽기 쉽고 매끄러운 문장은 더 진실하고 좋은 것처럼 느껴진다. 스키마 일치성: 기존에 알고 있던 틀에 맞는 정보가 덜 거부감 있게 받아들여진다. 그래서 사람은 정답이 같은 두 답변을 봐도 더 익숙하고 , 더 평범하고, 더 흔한 말투를 더 좋다고 평가할 수 있음. 논문이 제안하는 해결책: Verbalized Sampling 그냥 프롬프트를 바꿈 일반 프롬프트: 이야기를 하나 써줘. Verbalized Sampling 프롬프트: 가능한 이야기 5개를 생성하고, 각 이야기가 전체 ...

시각 창작자가 쓰는 생성형 AI의 지형도 생성형 AI로 무언가를 만드는 시각 창작자들이 쓰는 도구는 크게 둘로 나뉜다. 로컬과 비로컬이다. 로컬 쪽의 대표는 ComfyUI다. 자세한 설명은 이 글의 주제가 아니니 간단히 설명하겠음. 노드 기반 시스템인데, 미세하게 컨트롤하거나 본인만의 워크플로우를 짜는 데는 좋다. 대신 기본 성능 자체는 대기업이 굴리는 비로컬 서비스 쪽이 낫다. 모델 사이즈가 크기 때문이다. 그래서 특별한 목적이 없다면 대부분의 사람에게는 비로컬 서비스가 현실적인 선택이다. (그런데 요즘 codex나 claude code한테 comfy도 그냥 시키면 생각보다 잘 해주긴 함..) 비로컬 생성형 AI를 시각 분야 위주로 좀 더 쪼개 보겠다. 이미지: 나노바나나, GPT Image 2, 미드저니 등 3D: Meshy AI, Tripo AI 등 영상: Seedance, Kling AI, Sora 2(서비스 종료), Veo 등 이 글에서는 영상에 집중한다. 현재 영상 생성의 SOTA는 Seedance와 Kling(26.05) 상업적으로 쓸 만한 수준에서, 현재 영상 생성은 Seedance와 Kling AI가 압도적이다. 그냥 체감이 아니라 리더보드로도 그렇다. 블라인드 투표 기반인 Artificial Analysis 영상 아레나(2026년 5월 기준)를 보면, 오디오 포함 text-to-video에서 Seedance 2.0이 Elo 1213로 1위다. image-to-video에서도 선두를 잡고 있고, Kling 3.0 계열이 그 뒤 3~5위권을 채운다. 이유는 한 번에 뽑아내는 화질, 모션의 자연스러움, 물리, 그리고 오디오까지 한 패스에 같이 만들어내는 완성도가 높다. 참고로 한때 화제였던 Sora 2는 2026년 4월에 웹·앱 서비스가 종료됐다. 추론 비용이 하루 1,500만 달러 규모로 GPU를...

1. 예체능은 수학이 어려워 책을 구매하기 전부터 내가 감당하기 어려운 난이도일 것이라고 각오하고 있었지만, 각오한 것보다 어려웠다. 하지만 10여년전 수능 수학을 1등급 맞았던 찬란했던 과거가 있었는데 어쩌다 이렇게 되었는가 반성하다가 닌텐도 두뇌트레이닝을 떠올렸다. 나무위키에 찾아보니 학교 공부에 도움이 되지 않는 치매예방 목적이라고 한다. 과거의 영광과 사실 상관이 없었지만 지금의 목적에 오히려 부합할 수도 있겠다. 그래서 이러한 가벼운 동기를 바탕으로 매일 루틴처럼 할 수 있는 개인 두뇌트레이닝 프로그램을 만들어보려고 한다. 2. 일단 만들어보자 '일단 만들어보자' 는 실패의 코스트가 적은 AI시대에 중요한 정신이라고 생각한다. 내 머릿속에 있는 생각을 완벽하게 정리할 필요 없이 일단 최대한 많은 정보를 그냥 쏟아내보는 것을 추천한다. 그리고 그 정보들을 바탕으로 정리된 문서를 읽어보고 내 생각을 정리하는 것이 효율이 좋다. 이 과정에서는 요즘에 Claude Opus 4.6 버전을 사용하고 있는데 횡설수설을 가장 알잘딱으로 알아듣는 모델이라고 생각한다. 그래서 요즘 뭔가를 바이브 코딩으로 만드는 과정은 클로드로 기획서와 디자인 지침서를 만들고 gpt와 codex로 구현하는 것을 프로세스로 진행하고 있다. 2_1. 기획서 내 친구 클로드가 훌륭한 기획서를 만들어주었다. 대부분의 기술스택은 읽어봐도 모르고...

[AI 활용] 졸탄 포자르 학습만화 (https://www.valley.town/space/@disconnection/articles/69f22e376500861ea92f7434) 학습만화 제작을 시도해본 이유.. 본인의 공부에 실질적인 도움을 얻기 위함. 만화는 재밌어서 잘 읽힌다. 어느정도 분량까지 실질적으로 제작 가능한지 테스트 하기 위함 내용 선정 및 제작 조회수가 높은데 머릿속에서 기억이 잘 안나는 영상 하나를 골랐다. 학습만화 만들면서 계속 보게되면 이해와 암기가 저절로 될 것 같아서 겸사겸사.. 길이도 45분으로 꽤 길어서 GPT의 한계를 시험해보기에 괜찮아 보였음. Codex에 대한 소개, 활용 이유 Codex는 OpenAI의 에이전트형 작업 환경이다. 원래는 코드를 읽고 수정하는 도구로 알려져 있는데, 나는 코드가 아니라 콘텐츠 제작에 사용했다. Codex는 폴더를 작업 공간으로 설정하고 해당 폴더 전체를 활용하여 맥락을 이어가며 작업할 수 있기 때문이다. 그리고 웹 GPT 대화창으로 작업하면 일관성 유지가 힘들어지고 이미지의 퀄리티가 떨어지는 현상이 관찰된다. 자료 만들기 유튜브 내용을 텍스트로 만드는 것에 애용하는 lilys ai를 이용해서 스크립트를 만들어 저장하고.. 주인공이 되어 설명해줄 사람을 이미지 자료로 만들어 캐릭터 일관성 유지를 하는 것에 참고할 수 있도록 한다. 그렇게 준비된 자료들 학습만화 생성 프롬프트들은 그림체 및 스토리를 여러가지 실험해보면서 수정했기때문에 여러가지가 ...

[시리즈 연재에 앞서] AI 글을 쓰게 된 이유 (https://www.valley.town/space/@disconnection/articles/69eada9d1ed60a06f6cd5b77) 프롬프트 엔지니어링 AI를 잘 활용하기 위해 '프롬프트 엔지니어링'이라는 단어가 있을 정도로, 프롬프트는 AI 활용의 핵심 요소다. 그렇다면 프롬프트를 잘 쓰기 위해 '프롬프트 엔지니어링'을 별도로 공부해야 할까? (https://github.com/AUTOMATIC1111/stable-diffusion-webui) 2022년 부터 이미지 생성의 황금기를 열었던 Stable Diffusion을 생각해보자. Stable Diffusion 1.5의 방식을 보면, 초창기 이미지 생성 모델의 유행을 알렸던 당시에는 단어 위주의 나열, 가중치 조정, 네거티브 프롬프트 등의 방법으로 이미지를 생성했다. 만약 Stable Diffusion 1.5 방식이 10~20년간 지속되는 표준이라면 그런 지엽적인 테크닉을 깊이 공부하는 것이 옳은 방향이었을 수 있다. 하지만 지금은 그렇지 않다. 요즘의 프롬프트 작성 방식은 당시와 달리 문장형이고, 숫자 가중치를 사용하지 않으며, 네거티브 프롬프트도 사람에게 말하듯 자연스럽게 쓴다. 물론 지금도 문장 순서 배치나 반복 표현 같은 테크닉이 여전히 존재하긴 한다. 여기서 중요한 구분이 생긴다. 휘발적인 부분: 기술 발전에 따라 빠르게 바뀌는 세부 테크닉 본질적인 부분: 내가 원하는 것을 정확하게 파악하고 표현하는 능력 — 이것은 변하지 않는다 출처 Nano Banana 이미지 생성 (https://ai.google.dev/gemini-api/docs/image-generation?hl=ko#image_generation_text-to-image) GPT 이미지 생성 모델 프롬프트 가이드 (https://developers.openai.com/cookbook/examples/multimodal/image-gen-models-prompting-guide) 잘 쓴 프롬프트란 무엇인가 1. 실사 이미지 제작 이미지 프롬프트에서 '잘 썼다'고 평가받는 것들은 내용, 화각, 화질, 색감 등을 명확하게 담고 있다. 결국 핵심은 내가 원하는 것을 객관적인 단어로 최대한 자세하게 표현하는 능력이다. 예를 들어 실사 사진으로 접근한다면 Shotdeck같은 레퍼런스 데이터베이스의 이미지 설명 ...