zjhellofss / KuiperInfer

校招、秋招、春招、实习好项目!带你从零实现一个高性能的深度学习推理库,支持大模型 llama2 、Unet、Yolov5、Resnet等模型的推理。Implement a high-performance deep learning inference library step by step
MIT License
2.59k stars 295 forks source link

关于Tensor的疑问 #31

Closed Postroggy closed 1 year ago

Postroggy commented 1 year ago

为什么定义Tensor类的时候,使用的是Armadillo库,而不是比较流行 且 速度比较快的 Eigen矩阵库呢?性能方面ArmadilloEigen差的挺多的。

zjhellofss commented 1 year ago
  1. armadillo虽然默认实现慢,但是它也可以链接openblas或intel-mkl的,用这两者的实现,这样速度就非常快了。
  2. arma虽然冷门,但是我对它更加熟悉,接口和matlab也比较相似,同学上手也很快。
  3. 确实有同学在学习之后用Eigen做了一个复刻版,https://github.com/zpye/SimpleInfer