issues
search
ddps-lab
/
tfserving-inference
0
stars
2
forks
source link
issues
Newest
Newest
Most commented
Recently updated
Oldest
Least commented
Least recently updated
tf serving jetson version으로 빌드하기
#49
kh3654po
opened
1 year ago
17
tf serving 코드 arm 버전으로 빌드하기
#48
kh3654po
closed
1 year ago
3
tf serving 코드 분석하기
#47
kh3654po
opened
1 year ago
16
각 장비에서 행렬곱 연산을 병렬로 실행해 스케줄링 확인하기
#46
kh3654po
opened
1 year ago
23
tf server의 쓰레드 설정 확인
#45
kh3654po
opened
1 year ago
1
추론요청일 쌓이는데 추론시간은 짧아지는 이슈
#44
kh3654po
opened
1 year ago
10
master장비에서 각장비의 모델을 관리할 수 있는 기능 필요
#43
kh3654po
opened
1 year ago
0
edge 논문 설계
#42
kh3654po
opened
1 year ago
1
추론 요청 후 각 장비의 idle time 측정
#41
kh3654po
opened
1 year ago
0
twitter 데이터 generator 정리
#40
kh3654po
opened
1 year ago
3
다양한 시나리오로 추론시간 측정
#39
kh3654po
opened
1 year ago
2
각 장비별 요청처리 속도 비교
#38
kh3654po
opened
1 year ago
1
모델별 각 장비의 처리할 수 있는 추론요청량 측정
#37
kh3654po
opened
1 year ago
3
병렬로 추론요청시 예상되는 총 추론시간보다 오래 걸리는 이슈
#36
kh3654po
closed
1 year ago
7
추론요청 시나리오 작성 모듈과 라운드로빈으로 요청을 엣지장비들에 전송하는 스케줄러 구현
#35
kh3654po
opened
1 year ago
2
tf serving 옵션중 --rest-port를 --rest_api_port로 변경
#34
kh3654po
closed
1 year ago
1
엣지장비에서 tf model server가 rest요청도 받을 수 있도록 도커파일 수정
#33
kh3654po
closed
1 year ago
1
rest를 위한 도커관련 파일 생성 및 디렉토리 구조 변경
#32
kh3654po
closed
1 year ago
3
각 장비에 추론을 요청하는 간단한 스케줄러 구현
#31
kh3654po
closed
1 year ago
1
모델 요청 시나리오 작성하기
#30
kh3654po
closed
1 year ago
10
각 장비의 tf server의 로드된 모델을 관리하는 기능 구현
#29
kh3654po
opened
1 year ago
4
model config 파일의 변경을 감지하고 적용하는 옵션 추가
#28
kh3654po
closed
1 year ago
1
모델 다운로드 코드 및 docker run 파일의 오타 수정
#27
kh3654po
closed
1 year ago
0
R-PI + coral TPU 에서 모델 추론 서비스 구축하기
#26
kmu-leeky
opened
1 year ago
0
xavier 에서 최대 몇개 모델을 동시에 서빙 할 수 있는지 파악하기
#25
kmu-leeky
closed
1 year ago
1
TX2 장치에서 최대 몇개 모델을 동시에 서빙 할 수 있는 지 파악하기
#24
kmu-leeky
closed
1 year ago
3
bert_imdb와 distilbert 모델에 추론을 요청하는 코드 구현
#23
kh3654po
closed
1 year ago
2
x86 mobilenet_v2, inception_v3, yolo_v5 Dockerfile 추가
#22
mh3ong
closed
1 year ago
1
add yolo v5 for bench
#21
kh3654po
closed
1 year ago
1
h5 파일을 pb 파일로 변환할 때 생기는 오류 해결
#20
kh3654po
closed
1 year ago
9
오타 수정 recieve -> receive
#19
kh3654po
closed
1 year ago
0
xavier2 장비에 tf serving을 통해 모델들이 작동하는지 확인하기
#18
kh3654po
closed
1 year ago
4
nano1 장비에 tf serving을 통해 모델들이 작동하는지 확인하기
#17
kh3654po
closed
1 year ago
4
tx2에서 tf serving을 통해 모델들이 작동하는지 확인하기
#16
kh3654po
closed
1 year ago
5
tf serving을 통한 CNN 추론을 tx2 장비에서 가능하도록 이미지 빌드하기
#15
kh3654po
opened
1 year ago
3
inception v3의 이미지를 preprocessing 할 때 처리중 일부를 하지않아 요청이 제대로 되지않았던 에러 수정
#14
kh3654po
closed
1 year ago
1
tensorflow, python 등 버전 소프트웨어 버전 정립
#13
mh3ong
opened
1 year ago
0
mobilenet_v1 폴더 이름 변경, rest_bench.py 오타 수정, Dockerfile gRPC와 REST 분리, REST 최대 처리 개수 조정
#12
mh3ong
closed
1 year ago
2
modify input name
#11
kh3654po
closed
1 year ago
0
새로운 구조에 맞게 mobilenet v2, inception v3를 추론요청 가능하도록 모듈 추가
#10
kh3654po
closed
1 year ago
0
bench code 구조 개선, 중앙화
#9
mh3ong
closed
1 year ago
1
Bench code refactoring 완료 (with google spread sheet)
#8
mh3ong
closed
1 year ago
2
edge에서 사용할 tf serving container image rebuild
#7
kh3654po
opened
1 year ago
1
bench code refactoring
#6
kh3654po
closed
1 year ago
2
tf serving을 통해 한 컨테이너 위에서 여러 모델 serving 해보기
#5
kh3654po
closed
1 year ago
2
tf serving을 통해 각각의 모델 serving 해보기
#4
kh3654po
closed
1 year ago
1
repository 기본 파일 업로드 및 cloudrun에서 mobilenet 구동 확인.
#3
mh3ong
closed
1 year ago
1
AppRunner, CloudRun (x86)에서 tfserving을 통한 model serving
#2
mh3ong
closed
1 year ago
12
edge 장비 (arm)에서 tfserving 정상 동작 확인
#1
mh3ong
closed
1 year ago
3