AI는 과거와 현재의 '지배적 목소리'를 대변함
AI는 무(無)에서 유를 창조하는 것이 아니라,
인류가 축적한 방대한 데이터를 학습함
여기서 발생하는 근본적인 한계가 있음
다수결의 원칙
데이터가 많을수록 AI는 그것을 '정답'이나 '표준'으로 인식할 확률이 높음
즉, 이미 세상을 점유하고 있는 주류 이념
서구권 중심의 사고방식
자본주의적 가치관이 AI의 답변에 강하게 반영될 수밖에 없음
소외된 진실
아직 글로 충분히 기록되지 않은 소수자의 지혜, 혹은 기존 체제를 비판하는 혁신적인 소수의 목소리는 데이터의 양에서 밀려 '노이즈(Noise)'로 취급될 위험
AI는 '설계자의 의도'라는 필터를 거침
개발사와 엔지니어들이 설정한 '정렬(Alignment)' 과정을 거침
안전과 윤리라는 이름의 가이드라인
"보편적인 행복"을 추구하도록 설계되긴 하지만, 그 '보편성'의 기준을 누가 정하느냐.
특정 기업의 이익이나 특정 국가의 정치적 올바름(PC) 기준이 반영될 수 있음
효율성 지향
현재의 AI는 대체로 '생산성'과 '효율성'을 높이는 방향으로 최적화
GDP는 올릴 수 있지만, 그 과정에서 소외되는 인간의 감정이나
부의 재분배 같은 가치는 AI의 주된 평가 지표(Metric)에서 밀려나기 쉬움
'보이지 않는 미래'를 보지 못하는 AI
**"더 행복한 미래를 만들 수 있는 새로운 사상 부재"**
AI 독보적 범위 : 기존의 ...
