Open yfding98 opened 2 weeks ago
再将onnx模型转为动态批次后进行批量推理时报错,查了一下说是gemm_106算子维度不匹配,以batch_size=8为例,我这里的输入是{1024, 32},而你的weight是{32,128}:
再将onnx模型转为动态批次后进行批量推理时报错,查了一下说是gemm_106算子维度不匹配,以batch_size=8为例,我这里的输入是{1024, 32},而你的weight是{32,128}: