중국산 오픈소스 LLM 성능을 보고 문뜩 이번 SAAS 하락에 기존의 방향과 다른 딴지를 걸고 싶어졌다.

이번 1달간 공개한 중국기업들의 llm의 성능은 공통점이 몇가지 있다.

먼저 폭발적으로 성능이 증가했다. 벤치는 항상 뻥밴치 소리 듣기는 한데 어느정도 걸러 들어도 미국 llm대비 6개월 정도 차이가 나는 수준.

(어떻게던 중국 회사들도 제한적이지만 간접적으로 최신칩을 활용 할 수 있는거 같다.)

동시에 토큰은 어마어마하게 절약한다.

이 말을 전부 믿는건 아니다. 하지만 모델 만들면서 토큰을 팔아서 수익화를 하려고 하는 기업에게 어느정도 압박이 있을지, 그리고 지금 수준의 성능 격차가 유지될때 가까운 미래에는 오픈소스를 활용해서 중국산llm을 자체 서버에 올리는걸 시도하는 기업들이 나오지 않을까??

간단한 예시로 코딩작업같은 중요하고 최신기술 접목이 중요한건 클로드를 활용하고 적당한 성능의 API 키를 가져와서 활용하는건 qwen을 준다던가??