Groq 창업자 "문제가 너무 커지면 먼저 해결된다. 메모리가 지금 그렇다."




https://youtu.be/OBAXUdygTqQ?si=lw7esNGQFmZ5MCsp
조나단은 엔비디아 수석 소프트웨어 아키텍트이자 그로크(Groq) 창립자이며 구글 TPU의 발명가임.
현재 AI 기술은 약 60년 전 인류의 달 착륙 기술과 구별되는 완전히 새로운 최첨단 영역임.
1970년대부터 AI 알고리즘은 존재했으나 최근에야 이를 구동할 충분한 컴퓨팅 자원을 확보함.
AI의 실질적 구현을 위해서는 칩, 패키징, 시스템, 네트워킹, 데이터센터, 서버, 전력 등 방대한 인프라 구축이 필수적임.
AI 모델의 훈련(Training)과 추론(Inference)은 완전히 분리된 두 개의 독립적인 기술적 과제임.
AI 산업의 공급망 병목 현상은 동적이며 특정 제약이 심화될 경우 자본과 기술이 집중되어 결국 해결됨.
과거 범용 상품(Commodity)이었던 메모리가 현재 AI 인프라 구축의 가장 큰 병목으로 작용하고 있음.
메모리는 가격이 오를수록 수요가 증가하는 베블런재(Veblen good)가 아니라 필수재인 기펜재(Giffen good)의 특성을 보임.
기펜재의 논리에 따라 메모리 가격이 상승하면 기업들은 예산을 다른 곳에서 축소하여 오히려 메모리 확보에 더 많은 비용을 지출함.
메모리 비용이 감당 불가능한 수준에 이르면 기술자들은 하드웨어 증설 대신 알고리즘을 개선하는 대체 방안을 강구함.
딥...

15. 그러나 암 치료, 노화 극복, 컴퓨팅 자원 한계 등 인류의 근본적 난제가 남아있는 한 더 높은 지능에 대한 수요는 결코 포화하지 않음.
해당 문장이 브래들리 쿠퍼 주연의 영화 리미트리스를 떠올리게 하네요. 영화에서 지능이 높아질수록 더 높은 지능을 갈구하는 형태의 욕망이 드러났는데, 이는 인류의 본성에서 오는 자연스러운 흐름일 수 있겠다는 생각이 듭니다.

베블런재와 기펜재에 대해서 알게되었습니다. 감사합니다.
![[프로젝트 Foresight] 버블 패턴의 반복은 인간의 심리와 사회적 형태 때문](https://post-image.valley.town/qjUzF3QgUkrB78vK0WSQz.jpeg)
![[프로젝트 Foresight] 운명론적 투자](https://post-image.valley.town/ln2daZfyZRCn_07n5oVZ_.png)

