Anthropic CEO 다리오 아모데이 인터뷰 — AI의 미래, 위험, 그리고 인도의 기회

한줄 요약: AI는 인간 수준의 지능에 매우 가까이 와 있으며, 기술의 엄청난 혜택과 위험을 동시에 인식하고 올바른 방향으로 조종해야 한다.

• 출처

주요 내용

• 다리오의 배경: 물리학 학부, 생물물리학 박사 출신. 생물학의 복잡성을 AI로 풀 수 있겠다는 확신으로 AI 분야에 진입. Andrew Ng → Google → OpenAI 연구 총괄을 거쳐 Anthropic 설립.

• OpenAI에서 Anthropic으로: 두 가지 핵심 신념이 있었음.

  • (1) 스케일링 법칙 — 데이터·컴퓨팅·모델 크기를 비례적으로 키우면 지능이 산출된다는 확신 (2019년 GPT-2 시절부터).

  • (2) 안전성 — 범용 인지 도구가 될 AI를 올바르게 만들어야 한다는 신념. 후자에 대한 OpenAI의 진정성에 확신이 없어 독립.

• 스케일링 법칙: 화학 반응의 재료처럼, 데이터·모델 크기·컴퓨팅을 비례적으로 투입하면 "지능"이라는 산출물이 나온다. 5년 전에는 에세이 작성, 코드 구현, 이미지/영상 생성·분석 모두 불가능했지만 지금은 가능.

• 권력 집중에 대한 우려: 소수의 사람이 거의 우연히 경제의 핵심을 좌우하는 회사를 이끌게 된 상황에 스스로도 불편함을 느낌. 이에 대한 견제로 LTBT(장기이익신탁) 거버넌스 구조 채택, 정부 규제 옹호.

• Anthropic의 차별화된 행동: Chat GPT 이전에 Claude 1을 먼저 만들었으나 군비 경쟁 촉발을 우려해 공개하지 않음(상업적 손해 감수). 칩 정책 발언으로 공급업체의 반감을 사기도 함. 미국 행정부와 AI 규제에 대해 공개적으로 의견 충돌. SB53 등...