어제 밤 오라클 하락을 보면서 확실히 open ai 진영의 딜레마가 느껴집니다.
최근 낸드 디램 쇼티지의 원인은 결국 클로드의 코웍스같은 거의 추론형에 가까운 AI 때문입니다. 상세한 것은 홍대표님, 양파님의 양질의 글들에 잘 쓰여있어서... 전 좀 빠지고...
문제는 이걸 하는데 생기는 딜레마입니다.
성능 좋은 추론형을 공개하면 이미 쇼티지인 낸드 디램에 과부하가 걸리며 성능이 떨어집니다. 성능이 떨어지면 고객이 불만을 토하고 옮깁니다.
그럼 그런걸 공개안하면 성능이 떨어지니 고객이 안늘고 돈이 안되서 데이터센터 건설에 차질이 생깁니다. (결국 성능 확대가 안되는 딜레마)
구글은 기존의 인프라와 캐시로 이 문제를 대응하고, 앤트로픽은 개발자 시장이라는 소수 마켓을 공략했습니다.
Open Ai의 딜레마가 여기에 있는 듯 하고, 그 리스크는 오라클이 부담하니... 어제의 클로드 성능 이야기가 추가로 돌며 오라클이 떨어진 것이겠죠.

