넥서스 (석기시대부터 AI까지, 정보 네트워크로 보는 인류 역사) - 유발 하라리

[사피엔스]와 [호모데우스]의 저자로 유명한 유발 하라리 작가의 신작을 올해 1월의 책으로 읽어봤습니다.

올해 목표 중 하나가 한 달에 한 권 정도는 읽기였는데, 설 연휴 덕분에 겨우 다 읽을 수 있었네요.

소제목에도 나와 있듯이 이 책에서는, 인류 역사를 훑어보면서 정보 네트워크가 어떻게 발전해왔고, 어떤 역할을 했는지 이야기하고 있습니다. 기술이 발전하면서 인간의 네트워크는 밀도와 속도가 높아졌죠. 문자의 발명부터, 인쇄술, 신문, 라디오의 발명은 각각 혁명적인 변화를 이끌었습니다. 인쇄술의 발명이 종교와 과학 혁명을 이끌었다고 할 수도 있지만 동시에 마녀사냥과 같은 끔찍한 역사로도 이어졌고, 라디오의 발명이 민주주의를 가능하게도 했지만 나치즘과 스탈린주의로도 이어졌듯이 말이죠.

우리 '호모 사피엔스'는 지혜로운 사람이라고 스스로를 부르지만, 역사는 여전히 우리가 환상과 망상에 쉽게 빠지는 것을 보여줍니다. 지혜는 흔히 '올바른 결정을 내리는 것'을 의미하지만, 무엇이 '올바른' 것인지는 사람, 문화, 이념에 따라 다를 수 있습니다. 21세기, 2020년대 이후 컴퓨터 알고리즘은 과연 지혜로운 결정을 내리고 더 나은 세상을 만들 것이라고 믿을 수 있을까요?

인간 정보 네트워크의 역사가 단순히 승리의 진군이 아니었던 주된 이유가 여기 있다. 수 세대에 걸쳐 인간 네트워크는 점점 강력해졌지만 점점 지혜로워진 것은 아니었다. 네트워크가 진실보다 질서를 우선시할 경우 막강한 힘을 가질 수 있지만 대신 그 힘을 지혜롭게 사용하지 못하기 쉽다.

독자는 회의적인 시선에서 알고리즘을 바라보고 있습니다.

그리고 성 아우구스티누스는 이렇게 말했다죠. "실수하는 것은 인간적이지만 실수를 고치지 않는 것은 악마적이다"

과거의 실수를 우리가 반복하지 않기 위해서는 강력한 자정 장치가 필요하다고 주장합니다.

그 기반은 당연히 민주주의에서 찾아야 하구요.

민주주의는 강력한 자정장치를 갖춘 분산된 정보 네트워크다. ...민주주의의 또 다른 중요한 특징은 모든 사람이 오류를 범할 수 있다고 가정하는 것이다.

저자는 AI, 알고리즘의 출현이 이전까지의 매체의 발달과 다르다고 말합니다. 인쇄술, 신문, 라디오는 사람을 매개해주는 역할을 수행했다면, AI는 그 자체로 독자적인 정보를 생성해낼 수 있기 때문이죠. 사람들은 AI가 언제 인간 지능을 능가할지에 주목하지만, AI는 전혀 다른 객체이기 때문에 우리는 그 행동을 예측할 수도 통제할 수도 없을거라고 합니다. 그렇기에 강력한 자정 장치를 기업, 정부들이 마련해 놓지 않으면 인류는 최악의 상황을 또다시 마주할 수도 있다는 것이죠.

저는 저자가 너무 AI의 발전이 끼칠 수 있는 비관적인 영향에 대해서만 서술하고 있다는 생각이 들었습니다. 물론 여기서 예시로 든 페이스북의 알고리즘으로 인한 미얀마에서의 인종 청소 운동은 경각심을 일으키기도 했습니다. 그리고 현대 정치가 점점 더 AI로 인하나 가짜 뉴스나, 이를 이용하는 소수의 정치 세력들로 인해 양극화되고 제국주의화되어 가는 모습은 불안한 모습 중에 하나였죠.

좀 더 대단한, 구체적인 해결책을 제시해주었다면 다른 사람들에게도 추천해줄법 했지만, 분석까지만 완벽했던 것 같습니다. 저자의 말이 맞다면 거대한 역사의 흐름 속에서 AI의 발전은 새로운 인류의 출현과도 같습니다. 80년 정도된 컴퓨터의 발명을 이제 막 문자 사용을 깨친 한 고대 문명에 비유한 것은 AI에 대한 공포감을 심어주기 충분했다고 생각합니다.

하지만 한 개인으로서 이 거대한 흐름에 맞서기 위해서는 AI 발전의 흐름에 편승하는 수밖에 없다는 생각이 들더군요. 책에서 주장하는 자정 장치들은 정치가들이나 거대 기업들의 수뇌부들에게나 적용되어야 할 이야기라 크게 와닿지 않았습니다.

우리가 정녕 지혜로운 사람이라면, 왜 이토록 자기 파괴적일까?

우리는 환상과 망상에 우리 조상들만큼이나 쉽게 빠진다. 나치즘과 스탈린주의는 인류 사회를 집어삼진 수많은 집단 광기 중 두 가지 최근 사례에 불과하며, 현대 사회조차 예외가 아니다.

...결혼은, 개인의 심리적 결함이 힘을 남용하게 만든다는 것이다.

...인간 개인은 자신과 세상에 대한 진실을 추구하는 경향이 있어도, 대규모 네트워크는 허구와 환상에 의존하여 사회 구성원들을 묶고 질서를 유지한다.

... 망상에 기반한 네트워크는 필패한다고 가정해서는 안된다. 그런 네트워크의 승리를 막고 싶다면 적극적으로 노력해야 한다.

...우리는 정보를 수집하고 처리하는 과정에서 자신도 모르게 실수를 저지를 수 있다. 탐욕이나 증오에 사로잡힌 악의적인 사람들이 중요한 사실을 숨기거나 우리를 속이려고 시도할 수도 있다.

...지혜는 흔히 '올바른 결정을 내리는 것'을 의미하지만, 무엇이 '올바른' 것인지는 사람, 문화, 이념에 따라 다를 수 있다.

...과연 컴퓨터 알고리즘이 지혜로운 결정을 내리고 더 나은 세상을 만들 것이라고 믿을 수 있을까?

...포퓰리즘은 정보를 무기로 간주한다.

...역사는 결정되어 있지 않으며, 미래의 모습은 우리가 앞으로 어떤 선택을 하느냐에 달려 있다.

<1장>

진실과 현실은 다르다. 어떤 진술이 아무리 진실에 충실하다 해도 현실의 모든 측면을 표햔할 수는 없기 때문이다.

...단 하나의 현실이 존재하지만 그것이 복잡하다는 뜻이다.

...요컨대, 정보는 현실을 재현하기도 하고 재현하지 않기도 한다. 하지만 정보는 항상 연결한다. 이것이 정보의 근본적인 특징이다. 따라서 역사에서 정보가 어떤 역할을 했는지 조사할 때 우리는 '현실을 얼마나 잘 표현하는가? 진실인가 거짓인가?'를 물어야 할 때도 있지만, 대개 더 중요한 질문은 '사람들을 얼마나 잘 연결하는가? 어떤 새로운 네트워크를 만들어내는가?'이다.

...사회질서가 어디서 나오는지 솔직하게 인정하면 질서를 수정하는 것이 쉬워진다. 우리 같은 인간이 만들 것이라면 우리가 그것을 고칠 수도 있다는 뜻이니까. 하지만 그런 솔직함에는 대가가 따른다. 사회질서가 인간이 만든 것임을 인정하면 모든 사람들에게 그것을 받아들이라고 설득하기가 어렵다.

...인간 정보 네트워크의 역사가 단순히 승리의 진군이 아니었던 주된 이유가 여기 있다. 수 세대에 걸쳐 인간 네트워크는 점점 강력해졌지만 점점 지혜로워진 것은 아니었다. 네트워크가 진실보다 질서를 우선시할 경우 막강한 힘을 가질 수 있지만 대신 그 힘을 지혜롭게 사용하지 못하기 쉽다.

...단순히 정보 기술의 속도와 효율을 높인다고 해서 더 나은 세상이 되는 것은 아니다.

...우리 뇌에 저장할 수 있는 민족주의 시나 신화와 달리, 복잡한 조세와 행정 시스템이 제대로 작동하기 위해서는 독특한 비유기적 ...