[Feature] Bako 클래스에 총 메모리 사용량 체크 로직 추가 - Githubissues

kms7530 / Salsa

Salsa - serve models with one GPU server

Apache License 2.0

0 stars 0 forks source link

[Feature] Bako 클래스에 총 메모리 사용량 체크 로직 추가 #17

Closed Jeon-jisu closed 1 month ago

Jeon-jisu commented 2 months ago

작업내용

Bako 클래스 초기화 파트에 총 메모리 사용량 체크 로직을 추가한다.