issues
search
openlangrid
/
mlgrid-services
A framework to serve various generative AIs and other machine learning functions via WebSocket and JSONRPC.
Apache License 2.0
2
stars
0
forks
source link
GPUメモリ不足になるまでインスタンスを起動し、不足したら解放して起動し直すようにする
#26
Closed
takawitter
closed
9 months ago
takawitter
commented
9 months ago
[x] Python側でのGPUメモリ不足の検出とJavaへの通知
[x] Java側で利用メモリ量の設定されているプロセス同士は容量に余裕があれば同時起動させるようにする