search

rapidrabbit76 / Classification-For-Everyone

Classification with pytorch lightning
MIT License
3 stars 3 forks source link

Feature: Model Serving #14

Closed rapidrabbit76 closed 2 years ago

rapidrabbit76 commented 2 years ago

Description

프론트 작업전 각 모델 별 추론 서버 구성

TODO

zkdlfrlwl2 commented 2 years ago

보통 model update는 어떤 식으로 이루어짐 ?

rapidrabbit76 commented 2 years ago

보통 model update는 어떤 식으로 이루어짐 ?

서비스마다 제각각 일거 같은데 ?? 나도 이제 학교 졸업하고 나온케이스라서 ㅠㅠ

이번에는 BentoML 서서 모델이랑 같이 컨테이너로 만들어서 배포하고 k8s 에서 이미지 테그로 업데이트하려고

내가 했던 경험으로는 자동채색 할때나 석사때 외주작업 할때는 flask로 모델 이랑 같이 컨테이너로 만들어서 했었지