[LLM] - chatGPT 크레딧 문제로 API 호출 불가 문제

[JunYupK]

openAI API 연결하여 호출 시 다음과 같은 크레딧이 없어 오류가 반환 됨

호출 건당 크레딧 호출비용은 크지 않지만, 추후 이를 배포할 시에 크레딧이 과하게 청구 될 수 있어, 다방면의 LLM을 사용할 예정 단순 URL을 뽑아내는 것이므로 여러 LLM을 혼합하여 사용해도 좋을 것 같음

1. Gemini 사용 (Spring AI를 사용하기 위해선 vertexAI를 연결해야함)
2. claude
3. chatGPT Plus(인터넷 검색이 가능함)
4. Hyper Clova (타사 대비 저렴하며, 한글처리에 타사 대비 우수)
5. Ollama (오픈 소스 기반 chatGPT와 완벽하게 무료로 호환이 가능하다고 함 더 조사가 필요)

[JunYupK]

https://fornewchallenge.tistory.com/entry/Ollama-%EC%97%85%EB%8D%B0%EC%9D%B4%ED%8A%B8-%EC%9D%B4%EC%A0%9C-OpenAI-API%EB%A5%BC-%EB%AC%B4%EB%A3%8C%EB%A1%9C-%EC%A6%90%EA%B8%B0%EC%84%B8%EC%9A%94

https://fornewchallenge.tistory.com/entry/Ollama-%EC%97%85%EB%8D%B0%EC%9D%B4%ED%8A%B8-%EC%9D%B4%EC%A0%9C-OpenAI-API%EB%A5%BC-%EB%AC%B4%EB%A3%8C%EB%A1%9C-%EC%A6%90%EA%B8%B0%EC%84%B8%EC%9A%94

[JunYupK]

• Ollama 는 LLM 모델을 Local 환경에서 손쉽게 수행하기 위한 프레임워크
• 이를 활용하여 다른 LLM모델을 굳이 API호출 없이 local 환경에서 사용 가능