클로드의 미토스에 대한 생각 정리




최근 클로드에서 미토스라는 AI를 만들어서 몇가지 테스트를 해보고는 보안에 대한 중대한 위험요인이 될 수 있다며 파월과 베센트까지 불러서 회의를 하고 일반에 공개하지 않기로 했다는 뉴스가 화재가 되었다. 마치 탐크루즈의 마지막 미션임파서블에 등장했던 AI '엔티티(Entitiy)가 현실화 된 것 아니냐는 논제로 여기 저기서 갑론을박이 펼쳐졌고 이에 대한 대책 마련에 분주한 분위기다.
그러나... 미토스가 준 충격은 매우 크나 이는 이번에 새로 개발된 미토스의 능력이 아니고 이미 이전에 존재하였던 AI의 능력이 또다른 형태로 발현된 것 뿐이다. 이쯤에서 우리는 좀 더 근본적인 고민을 해봐야 한다. 지금으로부터 정확히 10년 전인 2016년 3월 이세돌9단과 알파고의 바둑 대국이 있었다. 이는 바둑이라는 게임 안에서 승부를 겨루는 것이었지만 근본적으로는 인간과 AI간의 '전쟁'이었고 이 전쟁에서 인간은 패배했다(반대로 처음이자 마지막 유일한 승리도 거두었다). AI 알파고는 인간 이세돌의 공격을 방어했고 인간 이세돌의 방어선은 결국 AI 알파고의 공격에 '뚫렸다". 물론 그보다 오래전에 인간 체스챔피언이 인공지능에게 패하기도 했다. 그러나 당시 사람들은 "체스에 비하면 바둑의 경우의 수는 무한에 가까우니 아직 AI가 인간에게 안될 것이다"라고 예측했었고 알파고는 그 예측을 무너뜨렸었다. 2016년 3월에. 이것이 이번 미토스의 경우와 ...

위의 글을 Grok에게 보여줬다니 다음과 같은 답변을 주는데 읽고 보니 더 소름돋네요. ㅠㅠ
https://grok.com/share/c2hhcmQtMi1jb3B5_d5e7d58d-b280-471f-8532-64e675f8bb71