search

wudingjian / rkllm_chat

将LLM 模型部署到 Rockchip Rk3588芯片中，在开发板上使用NPU进行推理
4 stars 0 forks source link

llm_demo编译问题请教 #3

Open PlanetesDDH opened 3 hours ago

PlanetesDDH commented 3 hours ago

请问编译出的llm_demo是对所有模型都适用还是一个模型需要单独编译一个呢？

wudingjian commented 2 hours ago

对所有模型都适用