modulersYJ / ganoverflow-front

2 stars 2 forks source link

TODO: openAI API 이용 시 토큰 제한 및 계정 당 요청 제한 관리 & 봇 탐지 방법 도입 #82

Open ABizCho opened 1 year ago

ABizCho commented 1 year ago

봇 차단

리캡차 v3로 봇 탐지

제한

  1. 1회 당 토큰 수 제한
  2. 비로그인 상태에서 5회 이상 채팅 지속 시(by 세션 스토리지 - 휘발성 있어야 할듯 해서) 로그인 모달(강제버전) 띄우기
  3. 로그인 상태에서 1일 단위로 유지되는 최대 대화 카운트 및 limit 지정 (일단 20개?) -> 넘으면 pricing 등 고려해봐야 할듯
ABizCho commented 1 year ago

토큰 비용 줄이는 방법

https://velog.io/@noh0907/ChatGPT-API-Token-Limit-%ED%95%B4%EA%B2%B0%ED%95%98%EA%B8%B0-%EC%9A%94%EA%B8%88-%EC%A4%84%EC%9D%B4%EA%B8%B0

토큰 수 초과 시 응답 예외처리 구현