search

lingo-chat / prompt

lingo-chat AI server (w/ 프롬프트엔지니어링, RAG, Agenting, Dataset generation)
0 stars 3 forks source link

[Bugfix] 503 The model is overloaded. Please try again later. (Issue #14) #15

Closed LewisVille-flow closed 1 month ago

LewisVille-flow commented 1 month ago

Overview

PR에 대해 대략적인 Description을 작성해주세요.

  • Gemini search model을 특정 type을 리턴하지 않을 경우 retry 하도록 하여 에러를 해결

Change Log

PR의 대표적인 Log를 간결히 작성해주세요.

  • Check the return type of ChatGoogleGenerativeAI if it is either [ToolMessage, AIMessage], and If not, assume one retry is enough to fix.
  • Edit minor model arguments options(temperature, safety_settings etc.)

To Reviewer

리뷰 받고자 하는 부분이 있다면 요청사항을 적어주세요.

Issue Tags

PR Checklist (Click to Expand)

PR을 만들기 전에 Title convention을 맞춰주세요.

PR Title and Classification

PR을 통해 해당 코드가 어떤 기능/문서/기타 를 구현하였는지 명확히 확인되어야 합니다. 아래 중 하나의 prefix를 사용하여 PR title을 작성해주세요.

  • [Bugfix] for bug fixes.
  • [Doc] for documentation fixes and improvements.
  • [Api] for new api feature.
  • [Prompt] for better prompts.
  • [CI/Build] for build or continuous integration improvements.
  • [Misc] for PRs that do not fit the above categories. Please use this sparingly.