search

AkihikoWatanabe / paper_notes

たまに追加される論文メモ
https://AkihikoWatanabe.github.io/paper_notes
15 stars 0 forks source link

NVIDIA TRITON INFERENCE SERVER, 2021 #390

Open AkihikoWatanabe opened 3 years ago

AkihikoWatanabe commented 3 years ago

https://developer.nvidia.com/nvidia-triton-inference-server

AkihikoWatanabe commented 3 years ago

Nvidiaのオープンソースのinference server モデルのデプロイや管理、スケーリング等を良い感じにしてくれるフレームワーク？