항상 마음에 담아두고 있는 문장이 하나 있습니다.
All Life is problem solving.
Karl Popper가 한 유명한 말이자 그의 책 제목이기도 합니다.
한국어판은 '삶은 문제 해결의 연속이다.' 라고 위 문장을 번역 해 두었습니다.
엔지니어로 성장하며 늘 문제를 푸는 삶을 살아 왔습니다.
기술의 본질은 보다 많은 인간이 지구에 존재하게 만드는 것, 그 과정에서 생기는 문제를 해결하는 것 이라고 생각 했습니다.
4년 전 처음 AI를 배우기 시작했을때, RL 전공한 박사님이 해준 말이 기억에 남아 있습니다.
"어떤 문제를 푸는 AI를 만들고 싶어요?"
...
문제를 풀기 위해서는, 문제를 정의해야 합니다.
AI는 문제를 푸는 기계 입니다. 어떤 문제를 주던 상당히 잘 풉니다.
그러나 어떤 문제를 풀지 스스로 정하지 못합니다.
이는 AI의 태생적인 한계라고 생각하고 있으며, 단순히 지금 LLM을 더 고도화한다고 풀 수 있는 문제가 아닙니다.
AI는 인간의 대뇌 피질 구조를 모방하였습니다. 간단히 말해, 특정 전기 신호가 들어오면, 비선형 출력을 만드는 cell을 다층으로 모와두면 대부분의 문제를 풀 수 있는 머신이 된다는 것입니다.
그러나 인간의 동기는 대뇌 피질에서 나오는 것이 아닙니다. 보다 원초적인 뇌, 대뇌 피질에 둘러쌓인 동물의 뇌, 감정의 뇌에서 기인합니다.
최근 Ilya Sutskever는 Dwarkesh Patel과의 인터뷰에서 다음과 같은 사례를 이야기 해 주었습니다.
"저도 이 사례에 대해 읽은 기억이 납니다. 신경과학자들이 뇌를 연구하는 방법 중 하나는 뇌의 특정 부위가 손상된 ...
