
VALLEY_cityp_941
구독자 0명구독중 0명
안녕하세요
AI를 만들 때는 크게 두 가지 단계가 있어:
학습 단계 (Training): AI가 데이터를 바탕으로 패턴을 배우는 단계야. 이 단계에서는 엄청난 양의 데이터를 사용해서 AI 모델을 "훈련"해.
추론 단계 (Inference): 학습이 끝난 AI가 실제로 배운 걸 활용해서 문제를 해결하거나 결과를 예측하는 단계야.
챗봇: 네가 질문하면 AI가 대답을 만들어내는 과정이 바로 추론이야.
자율주행차: 카메라와 센서로 주변 환경을 분석하고, 어떤 방향으로 가야 할지 결정하는 것도 추론이야.
음성 비서: 네가 "날씨 알려줘"라고 말하면, AI가 네 음성을 분석해서 날씨 정보를 찾아주는 과정이 추론이야.
즉, 추론 단계는 AI가 배운 걸 실제로 활용하는 단계라고 보면 돼.
2. AI 추론 단계에 필요한 시설
AI 추론을 실행하려면 특별한 하드웨어와 소프트웨어가 필요해. 아래는 주요 시설과 기술들이야:
AI 추론은 많은 계산을 필요로 해. 그래서 고성능 컴퓨터가 모여 있는 데이터센터가 필요해.
데이터센터는 AI 모델을 실행하고, 사용자 요청(예: 검색, 음성 인식 등)에 빠르게 응답할 수 있도록 설계돼.
데이터센터 내부에는 GPU, TPU, ASIC 같은 고성능 칩들이 설치돼 있어.
AI 추론 단계는 계산량이 많아서 일반 CPU로는 느려. 그래서 AI에 특화된 칩들이 필요해:
GPU (Graphics Processing Unit): AI의 병렬 연산에 최적화돼 있어. NVIDIA가 대표적인 GPU 제조사야.
TPU (Tensor ...