샌프란시스코 합의 (The San Francisco Consensus)
에릭 슈미트 (Eric Schmidt) 12월 11일
실리콘 밸리의 최근 논쟁을 지켜보는 사람들은 우리 AI 커뮤니티가 도대체 무슨 말을 하는지 모른다고 생각할 수도 있습니다. AI 전문가들은 수많은 쟁점을 두고 분열되어 있습니다. 가장 유명한 것은 AI가 초래할 실존적 위험에 대한 평가가 엇갈리면서 ‘종말론자(doomers)’와 ‘가속주의자(accelerationists)’가 나뉜 것입니다. 하지만 주요 사상가들은 개방형 모델과 폐쇄형 모델의 장단점, 규제의 효용성, 억지력을 위한 국가 안보적 함의 등 해결되지 않은 수많은 문제에 대해서도 의견을 달리하고 있습니다.
그러나 이러한 표면적인 불화 이면에는 몇 가지 핵심 아이디어에 대한 깊은 합의가 존재합니다. AI 개발을 주도하는 대부분의 사람들은 적어도 세 가지 중심 전제에 동의합니다. 첫째, 그들은 소위 '스케일링 법칙(scaling laws)'의 힘을 믿으며, 모델이 거대해질수록 AI의 급속한 발전을 계속 견인할 것이라고 주장합니다. 둘째, 이 혁명의 타임라인이 예상보다 훨씬 짧다고 생각합니다. 많은 AI 전문가들은 이제 2~5년 안에 우리가 초지능(superintelligence)에 도달할 것으로 보고 있습니다. 마지막으로, 그들은 '변혁적 AI(Transformative AI, TAI)', 즉 많은 과제에서 인간을 능가할 수 있는 시스템이 인류에게 전례 없는 혜택을 가져다줄 것이라고 확신합니다. 이러한 믿음은 과학적 진보, 금전적 수익, 그리고 궁극적으로 인간 진보의 기하급수적인 속도를 약속하는 '하키 스틱' 그래프로 표현됩니다.
저는 이러한 중첩된 견해들을 '샌프란시스코 합의(The San Francisco Consensus)'라고 부릅니다. 합의란 대다수의 전문가들, 이 경우에는 기술자, 과학자, 기업가들이 공유하는 일련의 믿음을 말합니다. 전후 케인스주의 합의에서부터 신자유주의 워싱턴 합의에 이르기까지, 지식적 합의의 시기는 항상 관찰 가능한 진실과 기저에 깔린 이념적 헌신의 결합으로 이루어졌습니다. 물론 그러한 합의가 널리 퍼져 있다고 해서 그것이 반드시 진실인 것은 아닙니다. 사실 역사는 우리 실리콘 밸리 사람들에게 겸손해야 할 충분한 이유를 제공합니다. 2000년대 내내 우리 중 다수는 인터넷의 사회적 영향에 대해 지나치게 낙관적이었지만, 그 비전은 허위 정보, 무기화, 정신 건강 위기 등으로 인해 훼손되었습니다.
“전후 케인스주의 합의에서부터 신자유주의 워싱턴 합의에 이르기까지, 지식적 합의의 시기는 항상 관찰 가능한 진실과 기저에 깔린 이념적 헌신의 결합으로 이루어졌습니다. 물론 그러한 합의가 널리 퍼져 있다고 해서 그것이 반드시 진실인 것은 아닙니다.”
어쩌면 그래서인지 샌프란시스코 합의가 실리콘 밸리에서는 폭넓게 받아들여지지만, 결코 보편적이지는 않습니다. 일부 주요 사상가들은 현재의 대규모 언어 모델(LLM)이 TAI나 그보다 더 야심 찬 사촌격인 인공 일반 지능(AGI)으로 가는 그럴듯한 경로를 제공하지 못한다고 믿습니다. 또한 피터 틸(Peter Thiel)이 인터넷과 관련하여 유명하게 묘사했던 침체를 AI가 극복할 수 있을지도 두고 봐야 합니다. 틸의 말을 빌리자면: AI 혁명은 우리에게 날아다니는 자동차를 줄까요, 아니면 에밀리 디킨슨 스타일의 140자 레시피를 줄까요?
또한 샌프란시스코 합의가 AI 커뮤니티 전체의 글로벌 합의를 반드시 반영하는 것도 아닙니다. 유럽에서는 많은 사람들이 사회적 영향과 발전 속도 모두에 대해 더 회의적인 경향이 있습니다. 그리고 제가 다른 곳에서 썼듯이, 중국은 AGI에 덜 몰두하고 다양한 분야에 걸쳐 AI를 실용적으로 적용하는 데 더 집중해 왔습니다.
그러나 만약 샌프란시스코 합의가 사실이라면, 다시 말해 AI가 진정으로 변혁적인 것으로 판명된다면, 향후 몇 년은 결정적인 시기가 될 것입니다. 많은 AI 전문가는 AI 시스템이 자율적으로 자신의 능력을 향상시켜 지능의 급격한 폭발로 이어지는 '재귀적 자기 ...
