오픈클로를 사용하게 된 계기
## 오픈클로 사용시 추천 API와 깨달은 투자인사이트 내용은 하단에 있습니다!
개인적으로 세상을 바꿀 신기술이 나왔을때는 선점효과를 통해 익혀두는 것이 가장 인생에 도움이 된다고 생각합니다.
그런 신기술은 버블을 만들어 내기에 최근 20년간에는 IT, 비트코인 그리고 지금은 AI 라고 생각합니다.
그래서 작년에는 AI로 그림을 그리는 기술(?)을 익히면 제 인생에 도움이 되지 않을까 하여 Stable Diffusion 을 익혀서 그림도 그려봤었습니다.
그때는 친구가 소설을 쓰고 제가 그림을 그려주는 그런 형태의 부업을 생각하고 했었으나 당시 시간도 없고 어렵기도 하고 흥미도 점차 사라지고 AI를 활용해서 그림을 그리는 기술을 익히면 과연 제 인생이 좋아 질까? 란 생각을 했습니다.
그래서 접었고 RTX 4070 TI만 덩그러니 남았었죠
근데 최근 시작된 오픈클로 이슈로 인해서 AI Agent 기술이 급부상 했습니다
유튜브 바이럴을 통해 오픈클로는 뭐든지 다되는 자비스 같은 존재가 되었고 맥미니는 품절이 되었죠
저도 관심이 생겨서 저만의 AI Agent를 만들고자 맥미니를 살까 하다가 제 컴퓨터에 꼽아져있는 RTX 4070 TI로 로컬 AI를 먼저 돌려보고 계속 사용할만하면 맥미니를 구매하자는 생각이 들었습니다.
제가 오픈클로에 머리를 박게 된 계기는 게이트박스 (Gatebox) 와 같은 느낌으로 AI Agent를 만들어서 실시간으로 소통해보는게 제일 첫번째 계기였고,
두번째는 만든 AI Agent를 통해서 하루 중 가장 많은 시간을 쏟는 뉴스 보는 시간을 효율화 시켜 제 시간을 확보하고, 투자 인사이트를 얻는 것입니다.
세번째는 AI Agent를 통해 추가적인 수익 파이프 라인을 만드는 것이었습니다.
목표 수정
하지만 지금에서야 깨닫고 있는 거지만 토큰 비용이 너무 많이 들어서 첫번째는 불가능 한 목표라는 생각이 듭니다.
처음에 제미나이한테 물어봤을때는 제 그래픽 카드로 돌리는 로컬 AI로 충분히 첫번째의 목표를 실현시킬 수 있다고 했는데 정보를 찾을 수록 VRAM 48GB 이상?(4090 두개) 아니면 API를 받아서 구동(무제한 토큰 비용)이 들지않나 라는 막연한 깨달음이 있었습니다.
제가 가진 VRAM 12GB로는 로컬 AI 프로그램인 ollama를 통해서 최대 Qwen 2.5 7B 정도는 쓸수 있는데 얘는 멍청한 gpt 4o보다 더 멍청해서 제대로 구동이 힘들것 같더라고요.
게다가 저는 비개발자인데다 만약 된다면 전세계에 있는 똑똑한 개발자들이 먼저 만들어서 이슈화가 된 상태지 않을까 생각합니다.
그래서 첫번째 목표는 안될거라 생각하지만 일단 시도는 해볼 생각이고, 지금은 두번째와 세번째 목표를 위해서 달려가고 있습니다.
시행착오
오픈클로를 셋팅하면서 정말 많은 시행착오가 있었습니다.
오픈클로가 최근에 나온 프로그램이고 마이너하다 보니 정보가 정리되어 있는 사이트가 없어서 설치를 해서 인사하는데만 애를 정말 많이 먹었습니다.
첫번째 - 설치 시행 착오
윈도우로 설치를 하는데 맥 기준으로 설치했다거나, node.js 설치를 안했다거나, WSL을 두개 설치 했다거나 하는 많은 시행 착오를 거쳐서 제미나이 모델을 쓴 오픈클로에게 안녕 인사를 받았습니다.
원래 로컬 ai agent로 오픈클로를 동작 시킬 계획이었기에 ollama 프로그램을 설치해서 여러 로컬 ai를 설치하고 오픈클로에 연결을 했지만 터미널에서 로컬 ai를 불렀을때는 대답을 하는데 이상하게 오픈클로에 연결하면 대답을 안해서 그때 당시에는 로컬 ai를 포기 했었습니다 (지금은 해결했습니다)
두번째 - 제미나이 무료 계정 시행착오
하지만 무료 쿼터를 주는 제미나이는 하루 사용량이 제한되었기에 무료 횟수를 다쓰면 대답도 안하고 대화내용들이 학습에 이용된다고 해서 유료 계정으로 전환하고 사용하여 지금기준으로 제미나이 API는 8000원 정도 사용했습니다.
이게 제가 ...
