search

airockchip / rknn-llm

Other
258 stars 26 forks source link

模型可视化、推理性能评估 #34

Open AACengineer opened 2 months ago

AACengineer commented 2 months ago

有3个项目中的疑问：

  1. rkllm现在支持多batch推理吗？
  2. Toolkit转换得到的rkllm模型文件能否可视化？像Netron打开onnx模型文件一样
  3. 了解过RKNN-Toolkit2是提供一些性能评估工具，如内存占用、算子执行耗时等，rkllm项目是否也提供了类似的工具？ 捕获