Open lovejoy opened 5 years ago
https://blog.spider.im/post/gpu-share-in-k8s/
GPU在容器间共享这个功能其实都有需要,但是官方都没有,之前在公司内实现的改动也太过于in-tree,无法opensource,今天看到阿里云开源了个GPU共享的方案,那么顺道借分析下阿里的方案来总结下这方面的事情。 阿里云的代码在https://github.com/AliyunContainerService/gpushare-scheduler-extenderhttps://github.
“gpu卡在多个容器中的共享,并且需要业务去适应这样的问题” 意思是多个容器挂同一块gpu,显存没有隔离,需要容器里的进程根据环境变量自己去分配gpu显存?
@harryge00 “gpu卡在多个容器中的共享,并且需要业务去适应这样的问题” 意思是多个容器挂同一块gpu,显存没有隔离,需要容器里的进程根据环境变量自己去分配gpu显存? 是的呀,一般机器学习框架初始化的时候都有函数设置总的GPU显存量,代码改的成本不大的。
https://blog.spider.im/post/gpu-share-in-k8s/
GPU在容器间共享这个功能其实都有需要,但是官方都没有,之前在公司内实现的改动也太过于in-tree,无法opensource,今天看到阿里云开源了个GPU共享的方案,那么顺道借分析下阿里的方案来总结下这方面的事情。 阿里云的代码在https://github.com/AliyunContainerService/gpushare-scheduler-extenderhttps://github.