boostcampaitech4lv23nlp1 / final-project-level3-nlp-07

final-project-level2-nlp-07 created by GitHub Classroom
4 stars 5 forks source link

bentoml 적용 #33

Open inni-iii opened 1 year ago

inni-iii commented 1 year ago

🚀 Feature Request

bentoml이 포함된 app.py streamlit 실행 방법

  1. CLI에서 pip install bentoml==0.13.1 실행
  2. app폴더에 들어간 후 python bentoml_packing.py 실행(폴더에서 cs10.pt, bert_10/ 경로를 맞게 설정해주세요)
  3. packing된 폴더가 기본 경로(opt/ml/bentoml/repository/~)에 저장됩니다. 경로를 따로 설정해주면 그 곳에 저장됩니다.
  4. packing된 폴더 경로를 app.pybentoml_path로 변경해주세요!
  5. app폴더에 들어가서 CLI에서 python3 -m streamlit run app.py --server.port 30001 --server.fileWatcherType True 실행(30001은 본인의 port 번호에 맞게 바꾸어주세요!!)

📎 Additional context

bentoml 버전을 0.13.1로 꼭!! 맞춰주세요