search

airockchip / rknn-llm

Other
422 stars 37 forks source link

请问一下，样例中的大模型有没有具体的下载链接 #14

Closed kaylorchen closed 7 months ago

kaylorchen commented 7 months ago

我看到是通义的模型，但是点击去一看，发现里面有多个文件，请问有没有具体一点的例子。只想简单测试一下

afox666 commented 7 months ago
  1. 下载hugging_face对应模型仓库里面的所有文件
  2. 使用rknn-toolkit转换，输入的模型路径其实是第1步下载的模型仓库所在目录（也就是说要下载所有的文件）
  3. 将转换得到的rkllm模型传到开发板上进行推理即可
kaylorchen commented 7 months ago
  1. 下载hugging_face对应模型仓库里面的所有文件
  2. 使用rknn-toolkit转换，输入的模型路径其实是第1步下载的模型仓库所在目录（也就是说要下载所有的文件）
  3. 将转换得到的rkllm模型传到开发板上进行推理即可

谢谢。我试试