search

AkihikoWatanabe / paper_notes

たまに追加される論文メモ
https://AkihikoWatanabe.github.io/paper_notes
17 stars 0 forks source link

OpenLLM: Self-Hosting LLMs Made Easy #1342

Open AkihikoWatanabe opened 3 months ago

AkihikoWatanabe commented 3 months ago

https://github.com/bentoml/OpenLLM

AkihikoWatanabe commented 3 months ago

OpenLLMをself hostingする際に、OpenAIなどと同じインタフェースのAPIやChatを提供するライブラリ