Closed LLH-Harward closed 7 months ago
您好 请问下如何用export出的onnx加载进行Qwen-VL-Chat的推理 有相关的项目或者代码参考吗?
onnx如下: embedding.onnx visual.onnx lm.onnx block_[0-31].onnx
--export_visual
visual.onnx
cmake -DUSING_VISUAL_MODEL=ON ..
好的 我学习一下 多谢
好的
您好 请问下如何用export出的onnx加载进行Qwen-VL-Chat的推理 有相关的项目或者代码参考吗?
onnx如下: embedding.onnx visual.onnx lm.onnx block_[0-31].onnx