[Worldology] #2. Reasoning AI Model 그리고 MLPerf™




혹여 AI 생태계에 관심이 있으시다면, 아래 짧은 <zdnet korea 기사(2025. 4.3. 01:00)>는 몇몇 시사점을 보여주는듯 합니다,
"GPU 72장 돌려야 답 나온다"…엔비디아, AI 추론 '끝판왕' 내놔
: 엔비디아, 추론 모델 대응 본격화…딥시크 모델로 '엠엘퍼프' 차기 기준 미리 선봬
https://v.daum.net/v/20250403010017424
1) AI 생태계에서 "MLPerf™"를 기억해두면 좋은데, MLPerf(Machine Learning Performance)는 ①2018년 2월에 바이두/구글/하버드大/스텐포드大/버클리大의 엔지니어와 연구자들이 최초 회의체 결성 후, 일련의 AI benchmark suite들을 런칭하여 2020년 12월 공식 출범한 '개방형 AI 엔지니어링 컨소시엄' <MLCommons:美Delaware州 Dover市>에서 주관하는 'AI System 성능 측정 글로벌 벤치마크'이며,
[참고] https://mlcommons.org/about-us/
[참고] HBM(고대역폭메모리) 20단/20단↑ 적층 규격 마련을 위해, 삼성전자/SK하이닉스/마이크론 등이 JEDEC(Joint Electron Device Engineering Council:반도체 공학 표준협회)를 통해서 자사에게 유리한 규격화를 위해 노력中.
* MLCommons : 창립 멤버(29개社) 中 국내4社(퓨리오사/리벨리온/모빌린트/삼성Exynos) 참여했고, 추가 회원사(27개社) 中 국내1社(사피온) 포함되고, 제휴사 포함 125개社 이상 참여中.
- 리벨리온/사피온은 2024년 12월 리벨리온으로 합병 완료.
②MLPerf는 MLPerf Training benchmark suite(2018.5월), MLPerf HPC benchmark suite(2018.12월), MLPerf Inference benchmark suite(2019.6월), TinyML benchmark suite(2019.10월) 등을 포함해서 현재 Benchmark suites는 10개이며,
* MLPerf Training 관련(3개)
- Training/Training Algorithms/Training:HPC
* MLPerf Inference 관련(4개)
- Inference:Tiny/Inference:Datacenter/Inference:Edge/
Inference:Mobile
* 기타(3개)
- MLPerf Storage/MLPerf Client/AILuminate
③상기中 주요...