如何将Geforce RTX3090GPU 加入平台的K8S集群中？

tencentmusic / cube-studio

cube studio开源云原生一站式机器学习/深度学习/大模型AI平台，支持sso登录，多租户，大数据平台对接，notebook在线开发，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务VGPU，边缘计算，serverless，标注平台，自动化标注，数据集管理，大模型微调，vllm大模型推理，llmops，私有知识库，AI模型应用商店，支持模型一键开发/推理/微调，支持国产cpu/gpu/npu芯片，支持RDMA，支持pytorch/tf/mxnet/deepspeed/paddle/colossalai/horovod/spark/ray/volcano分布式

Other

3.45k stars 610 forks source link

如何将Geforce RTX3090GPU 加入平台的K8S集群中？ #236

Closed provenclei closed 5 months ago

provenclei commented 5 months ago

平台是否只支持A100、V100等专业显卡，像RTX 3090这种，不进行GPU虚拟化，可以加入到子节点，并在申请时进行资源分配吗？

data-infra commented 5 months ago

参考wiki，gpu节点加入集群