search

zjhellofss / KuiperInfer

校招、秋招、春招、实习好项目！带你从零实现一个高性能的深度学习推理库，支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step
MIT License
2.59k stars 295 forks source link

有计划支持GPU的教程么 #24

Open YixinSong-e opened 1 year ago

zjhellofss commented 1 year ago

暂时没这个打算，因为根据我的观察，大家虽然对Cuda很有兴趣，但是普遍没怎么接触过（当然也有高手），所以讲GPU算子还需要先讲Cuda. 我自己的业余时间也没那么多， 只能在后续课程迭代中把CPU算子讲好。

SuperCB commented 1 year ago

我想给代码的后端加入cuda实现，请问可以吗？想与社区讨论一下接口和类的设计方案

IndifferentArea commented 9 months ago

我想给代码的后端加入cuda实现，请问可以吗？想与社区讨论一下接口和类的设计方案

@SuperCB 我也想试试，大佬还感兴趣吗

gongshanchong commented 9 months ago

我想给代码的后端加入cuda实现，请问可以吗？想与社区讨论一下接口和类的设计方案

@SuperCB 我也想试试，大佬还感兴趣吗

+1

KerwinKai commented 8 months ago

我想给代码的后端加入cuda实现，请问可以吗？想与社区讨论一下接口和类的设计方案

+1