엔스로픽은 안써봤지만 최근에 느끼는 것은 AI 산업도 캐즘을 겪을 수 있다는 생각이다.
아직 여러모로 엉성하다 느끼는 경우가 상당히 있다.
그리고 기억력도 아직은 형편없다. 많이 좋아졌지만 뭐라고 해야 할까
10일 전에 어떤 주제에 대해 A라는 의견이라고 이야기 했다가
5일 전에는 B라고 이야기 하고
1일 전에는 C라고 이야기 했다고 하자
사람이라면 어떤 주제에 대한 의견이 C라고 기억하고 대화를 이어나갈 수 있다.
제미나이는 헷갈린다. A로 알고 이야기 했다가 C로 알았다가 왔다 갔다 한다.
이것 헤비하게 써보신 분들은 뭔말인지 아실거라 믿는다.
그리고 사용자 편향이 심각하다 무조건 사용자 의견과 가설에 맞춰서 이야기 한다.
그런데 비판적으로 객관적으로 이야기 해달라고 하면 무조건 까는 까가 된다.
뭔가 중간이 없는 느낌이다.
AI는 대단하지만 한편 아직 그리 대단하지 않을지도 모르겠다는 생각이다.
느낌적인 느낌으로 캐즘을 겪을지도 모르겠다는 생각이 든다. J커브
왜 제미나이는 최근 더 멍청이가 되어가고 있는거지?
일단 제가 느끼는 몇가지 현상과 추측
1. 너무 착한 제미나이 아주 조금 폭력적인 아주 조금 선정적인 이미지나 동영상은 절대 만들지 않는다. 너무 착해서 유치하게 느껴지는 결과물이 종종 나온다. 이럴때 정말 답답하다 플러스로 정치적인 이슈가 조금이라도 걸리면 피하려고 한다. 무슨 중국산 AI도 아니고 진짜
→ 이건 확실히 규제나 통제에 관한 알고리즘이 문제인것 같다.
2. 연산력이 많이 드는 요청에 대한 게으름 이게 제일 짜증나는데 예를 들면 구루의 포트폴리오 백테스팅 요청 같이 손이 많이 갈 것 같은 요청은 생략하거나, 지나치게 축약하거나, 요청했던 방법론을 우회해서(요령을 부려) 추측해서 말한다. 지나치게 과장하면 하워드 막스의 성과는 뛰어났을 것으로 예상됩니다. 이런 식의 답변이다.
→ 이 현상에 대해서는 지도 알고 있는데 핑계는 대부분의 유저들이 쉽고 단순하고 요약된 결과물을 원해서 그렇다고 한다. 글쎄...
